feat: Phase 5 STT — DashScope Gummy 实时语音识别 + 本地 Whisper 回退
- DashScope WebSocket STT 客户端 (gummy-chat-v1) - 双引擎架构: DashScope 优先, Whisper 本地回退 - 实时流式 STT WebSocket 端点 - DevTools 模型搜索框焦点修复 Co-Authored-By: Claude Opus 4.7 <noreply@anthropic.com>
This commit is contained in:
@@ -0,0 +1,273 @@
|
||||
package service
|
||||
|
||||
import (
|
||||
"context"
|
||||
"fmt"
|
||||
"sync"
|
||||
"time"
|
||||
|
||||
"github.com/gorilla/websocket"
|
||||
)
|
||||
|
||||
// DashScopeSTT 使用阿里云百炼 Gummy 模型进行语音识别。
|
||||
// WebSocket API: wss://dashscope.aliyuncs.com/api-ws/v1/inference
|
||||
type DashScopeSTT struct {
|
||||
apiKey string
|
||||
model string
|
||||
timeout time.Duration
|
||||
}
|
||||
|
||||
// NewDashScopeSTT 创建 DashScope STT 客户端。
|
||||
func NewDashScopeSTT(apiKey, model string) *DashScopeSTT {
|
||||
if model == "" {
|
||||
model = "gummy-chat-v1"
|
||||
}
|
||||
return &DashScopeSTT{
|
||||
apiKey: apiKey,
|
||||
model: model,
|
||||
timeout: 30 * time.Second,
|
||||
}
|
||||
}
|
||||
|
||||
// IsAvailable 检查 API Key 是否已配置。
|
||||
func (d *DashScopeSTT) IsAvailable() bool {
|
||||
return d.apiKey != ""
|
||||
}
|
||||
|
||||
// sttMessage 定义 STT WebSocket 协议消息格式。
|
||||
type sttMessage struct {
|
||||
Header sttHeader `json:"header"`
|
||||
Payload sttPayload `json:"payload"`
|
||||
}
|
||||
|
||||
type sttHeader struct {
|
||||
Streaming string `json:"streaming"`
|
||||
TaskID string `json:"task_id"`
|
||||
Action string `json:"action"`
|
||||
}
|
||||
|
||||
type sttPayload struct {
|
||||
Model string `json:"model"`
|
||||
TaskGroup string `json:"task_group"`
|
||||
Task string `json:"task"`
|
||||
Function string `json:"function"`
|
||||
Input map[string]interface{} `json:"input,omitempty"`
|
||||
Parameters sttParameters `json:"parameters"`
|
||||
Output map[string]interface{} `json:"output,omitempty"`
|
||||
}
|
||||
|
||||
type sttParameters struct {
|
||||
SampleRate int `json:"sample_rate"`
|
||||
Format string `json:"format"`
|
||||
TranscriptionEnabled bool `json:"transcription_enabled"`
|
||||
TranslationEnabled bool `json:"translation_enabled"`
|
||||
SourceLanguage string `json:"source_language,omitempty"`
|
||||
MaxEndSilence int `json:"max_end_silence,omitempty"`
|
||||
}
|
||||
|
||||
// sttServerMsg 服务端返回的消息格式。
|
||||
type sttServerMsg struct {
|
||||
Header sttServerHeader `json:"header"`
|
||||
Payload sttServerPayload `json:"payload"`
|
||||
}
|
||||
|
||||
type sttServerHeader struct {
|
||||
TaskID string `json:"task_id"`
|
||||
Event string `json:"event"`
|
||||
}
|
||||
|
||||
type sttServerPayload struct {
|
||||
Output map[string]interface{} `json:"output,omitempty"`
|
||||
Usage map[string]interface{} `json:"usage,omitempty"`
|
||||
Error sttError `json:"error,omitempty"`
|
||||
}
|
||||
|
||||
type sttError struct {
|
||||
Code string `json:"code"`
|
||||
Message string `json:"message"`
|
||||
}
|
||||
|
||||
// Transcribe 将音频数据发送到 DashScope 进行识别,返回识别文本。
|
||||
func (d *DashScopeSTT) Transcribe(ctx context.Context, audioData []byte, format string, language string) (string, error) {
|
||||
if !d.IsAvailable() {
|
||||
return "", fmt.Errorf("DashScope API Key 未配置")
|
||||
}
|
||||
|
||||
dialer := websocket.Dialer{
|
||||
HandshakeTimeout: 10 * time.Second,
|
||||
}
|
||||
|
||||
header := make(map[string][]string)
|
||||
header["Authorization"] = []string{"Bearer " + d.apiKey}
|
||||
|
||||
conn, _, err := dialer.DialContext(ctx, "wss://dashscope.aliyuncs.com/api-ws/v1/inference", header)
|
||||
if err != nil {
|
||||
return "", fmt.Errorf("连接 DashScope STT 失败: %w", err)
|
||||
}
|
||||
defer conn.Close()
|
||||
|
||||
conn.SetReadDeadline(time.Now().Add(d.timeout))
|
||||
|
||||
taskID := fmt.Sprintf("cyrene-stt-%d", time.Now().UnixNano())
|
||||
|
||||
// 规范化音频格式
|
||||
normFormat := normalizeSTTFormat(format)
|
||||
if language == "" || language == "auto" {
|
||||
language = "zh"
|
||||
}
|
||||
|
||||
// 发送 run-task
|
||||
startMsg := sttMessage{
|
||||
Header: sttHeader{
|
||||
Streaming: "duplex",
|
||||
TaskID: taskID,
|
||||
Action: "run-task",
|
||||
},
|
||||
Payload: sttPayload{
|
||||
Model: d.model,
|
||||
TaskGroup: "audio",
|
||||
Task: "asr",
|
||||
Function: "recognition",
|
||||
Parameters: sttParameters{
|
||||
SampleRate: 16000,
|
||||
Format: normFormat,
|
||||
TranscriptionEnabled: true,
|
||||
TranslationEnabled: false,
|
||||
SourceLanguage: language,
|
||||
},
|
||||
},
|
||||
}
|
||||
|
||||
if err := conn.WriteJSON(startMsg); err != nil {
|
||||
return "", fmt.Errorf("发送 run-task 失败: %w", err)
|
||||
}
|
||||
|
||||
// 等待 task-started
|
||||
var textResult string
|
||||
var mu sync.Mutex
|
||||
started := make(chan struct{})
|
||||
errc := make(chan error, 1)
|
||||
done := make(chan struct{})
|
||||
|
||||
go func() {
|
||||
defer close(done)
|
||||
startedClosed := false
|
||||
for {
|
||||
var msg sttServerMsg
|
||||
if err := conn.ReadJSON(&msg); err != nil {
|
||||
select {
|
||||
case errc <- fmt.Errorf("读取响应失败: %w", err):
|
||||
default:
|
||||
}
|
||||
return
|
||||
}
|
||||
|
||||
switch msg.Header.Event {
|
||||
case "task-started":
|
||||
if !startedClosed {
|
||||
close(started)
|
||||
startedClosed = true
|
||||
}
|
||||
case "result-generated":
|
||||
if out, ok := msg.Payload.Output["transcription"]; ok {
|
||||
if transMap, ok := out.(map[string]interface{}); ok {
|
||||
if text, ok := transMap["text"].(string); ok {
|
||||
mu.Lock()
|
||||
textResult = text
|
||||
mu.Unlock()
|
||||
}
|
||||
}
|
||||
}
|
||||
case "task-finished":
|
||||
return
|
||||
case "task-failed":
|
||||
errMsg := msg.Payload.Error.Message
|
||||
if errMsg == "" {
|
||||
errMsg = "未知错误"
|
||||
}
|
||||
select {
|
||||
case errc <- fmt.Errorf("DashScope 识别失败: %s (code=%s)", errMsg, msg.Payload.Error.Code):
|
||||
default:
|
||||
}
|
||||
return
|
||||
}
|
||||
}
|
||||
}()
|
||||
|
||||
// 等待 task-started 或错误
|
||||
select {
|
||||
case <-started:
|
||||
case err := <-errc:
|
||||
return "", err
|
||||
case <-ctx.Done():
|
||||
return "", ctx.Err()
|
||||
}
|
||||
|
||||
// 发送音频数据(分块发送,每块 ~10KB)
|
||||
chunkSize := 10240
|
||||
for i := 0; i < len(audioData); i += chunkSize {
|
||||
end := i + chunkSize
|
||||
if end > len(audioData) {
|
||||
end = len(audioData)
|
||||
}
|
||||
conn.SetWriteDeadline(time.Now().Add(10 * time.Second))
|
||||
if err := conn.WriteMessage(websocket.BinaryMessage, audioData[i:end]); err != nil {
|
||||
return "", fmt.Errorf("发送音频数据失败: %w", err)
|
||||
}
|
||||
}
|
||||
|
||||
// 发送 finish-task
|
||||
finishMsg := sttMessage{
|
||||
Header: sttHeader{
|
||||
Streaming: "duplex",
|
||||
TaskID: taskID,
|
||||
Action: "finish-task",
|
||||
},
|
||||
}
|
||||
if err := conn.WriteJSON(finishMsg); err != nil {
|
||||
return "", fmt.Errorf("发送 finish-task 失败: %w", err)
|
||||
}
|
||||
|
||||
// 等待完成
|
||||
select {
|
||||
case <-done:
|
||||
mu.Lock()
|
||||
text := textResult
|
||||
mu.Unlock()
|
||||
if text == "" {
|
||||
return "", fmt.Errorf("未收到识别结果")
|
||||
}
|
||||
return text, nil
|
||||
case err := <-errc:
|
||||
return "", err
|
||||
case <-ctx.Done():
|
||||
return "", ctx.Err()
|
||||
}
|
||||
}
|
||||
|
||||
// normalizeSTTFormat 将音频格式映射到 DashScope 支持的格式名。
|
||||
func normalizeSTTFormat(format string) string {
|
||||
switch format {
|
||||
case "wav":
|
||||
return "wav"
|
||||
case "mp3", "mpeg":
|
||||
return "mp3"
|
||||
case "ogg", "opus":
|
||||
return "ogg"
|
||||
case "flac":
|
||||
return "flac"
|
||||
case "m4a", "aac", "mp4":
|
||||
return "aac"
|
||||
default:
|
||||
return "pcm"
|
||||
}
|
||||
}
|
||||
|
||||
// GetStatus 返回 DashScope STT 状态。
|
||||
func (d *DashScopeSTT) GetStatus() map[string]interface{} {
|
||||
return map[string]interface{}{
|
||||
"available": d.IsAvailable(),
|
||||
"model": d.model,
|
||||
"provider": "dashscope",
|
||||
}
|
||||
}
|
||||
@@ -1,11 +1,13 @@
|
||||
package service
|
||||
|
||||
import (
|
||||
"context"
|
||||
"fmt"
|
||||
"os"
|
||||
"os/exec"
|
||||
"path/filepath"
|
||||
"strings"
|
||||
"time"
|
||||
|
||||
"github.com/yourname/cyrene-ai/voice-service/internal/config"
|
||||
)
|
||||
@@ -13,48 +15,64 @@ import (
|
||||
// SupportedLanguages STT 支持的语言列表
|
||||
var SupportedLanguages = []string{"zh", "en", "ja", "ko", "auto"}
|
||||
|
||||
// STTService 语音转文字服务
|
||||
// STTService 语音转文字服务。
|
||||
// 优先使用 DashScope Gummy API,不可用时回退到本地 Whisper。
|
||||
type STTService struct {
|
||||
whisperBinary string
|
||||
whisperModel string
|
||||
language string
|
||||
dashscope *DashScopeSTT
|
||||
}
|
||||
|
||||
// NewSTTService 创建 STT 服务
|
||||
// NewSTTService 创建 STT 服务。
|
||||
func NewSTTService(cfg *config.Config) *STTService {
|
||||
return &STTService{
|
||||
whisperBinary: cfg.WhisperBinary,
|
||||
whisperModel: cfg.WhisperModel,
|
||||
language: cfg.WhisperLanguage,
|
||||
dashscope: NewDashScopeSTT(cfg.DashScopeAPIKey, cfg.DashScopeModel),
|
||||
}
|
||||
}
|
||||
|
||||
// IsAvailable 检查 whisper binary 是否存在
|
||||
// IsAvailable 检查是否有任一 STT 引擎可用。
|
||||
func (s *STTService) IsAvailable() bool {
|
||||
if s.dashscope.IsAvailable() {
|
||||
return true
|
||||
}
|
||||
_, err := os.Stat(s.whisperBinary)
|
||||
return err == nil
|
||||
}
|
||||
|
||||
// Transcribe 将音频数据转录为文字
|
||||
// audioData: 音频文件的二进制数据
|
||||
// format: 音频格式 (wav, mp3, ogg, flac, m4a)
|
||||
// language: 转录语言 (zh, en, ja, ko, auto),为空则使用默认语言
|
||||
// Transcribe 将音频数据转录为文字。
|
||||
// 优先使用 DashScope,不可用时回退到本地 Whisper。
|
||||
func (s *STTService) Transcribe(audioData []byte, format string, language string) (string, error) {
|
||||
if !s.IsAvailable() {
|
||||
return "", fmt.Errorf("STT 引擎未安装,请运行 scripts/setup-whisper.sh")
|
||||
}
|
||||
|
||||
// 如果未指定语言,使用默认语言
|
||||
if language == "" {
|
||||
language = s.language
|
||||
}
|
||||
|
||||
// 验证语言是否支持
|
||||
if !isSupportedLanguage(language) {
|
||||
return "", fmt.Errorf("不支持的语言: %s,支持的语言: %s", language, strings.Join(SupportedLanguages, ", "))
|
||||
}
|
||||
|
||||
// 将音频数据写入临时文件
|
||||
// 优先 DashScope
|
||||
if s.dashscope.IsAvailable() {
|
||||
ctx, cancel := context.WithTimeout(context.Background(), 30*time.Second)
|
||||
defer cancel()
|
||||
text, err := s.dashscope.Transcribe(ctx, audioData, format, language)
|
||||
if err == nil && text != "" {
|
||||
return text, nil
|
||||
}
|
||||
}
|
||||
|
||||
// 回退到本地 Whisper
|
||||
return s.transcribeWhisper(audioData, format, language)
|
||||
}
|
||||
|
||||
// transcribeWhisper 使用本地 Whisper 引擎转录。
|
||||
func (s *STTService) transcribeWhisper(audioData []byte, format string, language string) (string, error) {
|
||||
if _, err := os.Stat(s.whisperBinary); err != nil {
|
||||
return "", fmt.Errorf("STT 引擎不可用: DashScope API Key 未配置且 Whisper 未安装")
|
||||
}
|
||||
|
||||
ext := normalizeExt(format)
|
||||
tmpFile, err := os.CreateTemp("/tmp", "cyrene-stt-*"+ext)
|
||||
if err != nil {
|
||||
@@ -69,7 +87,6 @@ func (s *STTService) Transcribe(audioData []byte, format string, language string
|
||||
}
|
||||
tmpFile.Close()
|
||||
|
||||
// 如果不是 WAV 格式,尝试用 ffmpeg 转换
|
||||
inputPath := tmpPath
|
||||
if format != "wav" && format != "" {
|
||||
convertedPath := tmpPath + ".wav"
|
||||
@@ -77,11 +94,8 @@ func (s *STTService) Transcribe(audioData []byte, format string, language string
|
||||
defer os.Remove(convertedPath)
|
||||
inputPath = convertedPath
|
||||
}
|
||||
// 转换失败则仍使用原始文件(whisper.cpp 也支持其他格式)
|
||||
}
|
||||
|
||||
// 调用 whisper.cpp
|
||||
// whisper-cli 的 -of 标志会在去掉扩展名后追加 .txt
|
||||
outputPrefix := strings.TrimSuffix(inputPath, filepath.Ext(inputPath))
|
||||
outputTxt := outputPrefix + ".txt"
|
||||
|
||||
@@ -99,42 +113,41 @@ func (s *STTService) Transcribe(audioData []byte, format string, language string
|
||||
return "", fmt.Errorf("whisper 转录失败: %w", err)
|
||||
}
|
||||
|
||||
// 读取输出文本
|
||||
defer os.Remove(outputTxt)
|
||||
|
||||
txtData, err := os.ReadFile(outputTxt)
|
||||
if err != nil {
|
||||
return "", fmt.Errorf("读取转录结果失败: %w", err)
|
||||
}
|
||||
|
||||
text := strings.TrimSpace(string(txtData))
|
||||
|
||||
return text, nil
|
||||
return strings.TrimSpace(string(txtData)), nil
|
||||
}
|
||||
|
||||
// GetStatus 返回服务状态
|
||||
// GetStatus 返回服务状态。
|
||||
func (s *STTService) GetStatus() map[string]interface{} {
|
||||
binaryAvailable := s.IsAvailable()
|
||||
binaryAvailable := false
|
||||
if _, err := os.Stat(s.whisperBinary); err == nil {
|
||||
binaryAvailable = true
|
||||
}
|
||||
modelExists := false
|
||||
if _, err := os.Stat(s.whisperModel); err == nil {
|
||||
modelExists = true
|
||||
}
|
||||
|
||||
modelName := filepath.Base(s.whisperModel)
|
||||
|
||||
return map[string]interface{}{
|
||||
"available": binaryAvailable && modelExists,
|
||||
"binary_available": binaryAvailable,
|
||||
"model_loaded": modelExists,
|
||||
"binary_path": s.whisperBinary,
|
||||
"model_path": s.whisperModel,
|
||||
"model_name": modelName,
|
||||
"default_language": s.language,
|
||||
"available": s.IsAvailable(),
|
||||
"primary": "dashscope",
|
||||
"dashscope": s.dashscope.GetStatus(),
|
||||
"whisper": map[string]interface{}{
|
||||
"available": binaryAvailable && modelExists,
|
||||
"binary_available": binaryAvailable,
|
||||
"model_loaded": modelExists,
|
||||
"model_name": filepath.Base(s.whisperModel),
|
||||
},
|
||||
"default_language": s.language,
|
||||
"supported_languages": SupportedLanguages,
|
||||
}
|
||||
}
|
||||
|
||||
// normalizeExt 规范化文件扩展名
|
||||
// normalizeExt 规范化文件扩展名。
|
||||
func normalizeExt(format string) string {
|
||||
switch strings.ToLower(format) {
|
||||
case "wav":
|
||||
@@ -152,7 +165,7 @@ func normalizeExt(format string) string {
|
||||
}
|
||||
}
|
||||
|
||||
// isSupportedLanguage 检查语言是否支持
|
||||
// isSupportedLanguage 检查语言是否支持。
|
||||
func isSupportedLanguage(lang string) bool {
|
||||
for _, l := range SupportedLanguages {
|
||||
if l == lang {
|
||||
@@ -162,7 +175,7 @@ func isSupportedLanguage(lang string) bool {
|
||||
return false
|
||||
}
|
||||
|
||||
// convertToWav 使用 ffmpeg 将音频转换为 WAV 格式
|
||||
// convertToWav 使用 ffmpeg 将音频转换为 WAV 格式。
|
||||
func convertToWav(inputPath, outputPath string) error {
|
||||
cmd := exec.Command("ffmpeg",
|
||||
"-i", inputPath,
|
||||
|
||||
Reference in New Issue
Block a user