Kết quả thử nghiệm · giải thích đã sửa vào ngày 6 tháng 9 năm 2026
Ba loại kiểm tra. Một nghiên cứu thí điểm giới hạn.
20 thiết bị cố định tổng hợp sạch giống nhau, được giải mã ba lần mỗi làn trên một M1 Max MacBook Pro sử dụng Yaps 2.3.2129. Core ML Parakeet và Whisper Base là cấu hình model bên trong Yaps, không phải sản phẩm của đối thủ cạnh tranh.
01 · Hồ sơ tổng hợp
Nhận dạng với tính năng dọn dẹp cục bộ, được đo lường cùng nhau.
Yaps trình thử nghiệm phát lại thiết bị tổng hợp. Giá trị WER thấp hơn, tỷ lệ xóa và độ trễ thấp hơn cho thấy ít lỗi hơn hoặc thời gian xử lý ngắn hơn trong thiết lập chạy chính xác này; chúng không phải là xếp hạng sản phẩm.
Yaps làn đầu ra
Vai trò
Chạy
Các từ, có lặp lại
Vi mô WER
Tỷ lệ xóa
Xử lý trung bình
p95 xử lý
Xử lý tối đa
Core ML Parakeet + dọn dẹp cục bộ
Dọn dẹp trên
60
1,473
3.46%
0.41%
1,124 ms
2,807 ms
2,958 ms
Core ML Parakeet, dọn dẹp
Tắt dọn dẹp
60
1,473
3.67%
0.20%
250 ms
722 ms
1,863 ms
Whisper Base, dọn sạch
Tắt dọn dẹp
60
1,473
6.52%
0.41%
844 ms
1,669 ms
2,189 ms
Thời gian xử lý bao gồm nhận dạng, hoàn thiện quy trình và dọn dẹp cục bộ khi được bật. Nó không bao gồm việc xây dựng thời gian chạy ban đầu, tải lịch thi đấu, ghi trực tiếp, gửi phím tắt và chèn con trỏ. Tất cả các làn đều ghi điểm đầu ra của người đánh giá cuối cùng; các làn đường dọn dẹp vẫn có thể áp dụng các thay đổi về từ vựng và định dạng.
Độ trễ sử dụng 60 mẫu giải mã có trọng số bằng nhau trên mỗi làn và phân vị tuyến tính R-7. 20 bộ cố định chứa 491 vị trí từ tham chiếu trên mỗi lượt, được tính ba lần trong mẫu số 1.473 từ. Sự lặp lại không phải là những phát ngôn độc lập. Vẫn bao gồm các lỗi ở ngưỡng chất lượng: 3 khi bật tính năng dọn dẹp Core ML, 3 khi tắt tính năng dọn dẹp Core ML và 6 khi bật tính năng dọn dẹp Whisper.
“Micro” có nghĩa là số lần thao tác chỉnh sửa và số từ tham chiếu được cộng lại trước khi tính mỗi tỷ lệ. Nó không phải là trung bình vĩ mô của phần trăm từng đoạn clip.
02 · Đọc hạn chế
Những gì ba hàng này có thể hỗ trợ.
Tắt dọn dẹp
Cấu hình tắt dọn dẹp phù hợp
Whisper Base khi tắt tính năng dọn dẹp có cao hơn 2,85 điểm phần trăm WER, tỷ lệ xóa cao hơn 0,20 điểm, trung bình cao hơn 595 mili giây và p95 cao hơn 947 mili giây so với Core ML Parakeet khi tắt tính năng dọn dẹp trong các lần chạy thử nghiệm phù hợp này.
Làn đường hỗ trợ dọn dẹp
Nhận dạng và dọn dẹp cùng nhau
Làn đường hỗ trợ dọn dẹp Core ML bao gồm dọn dẹp ngữ nghĩa cục bộ. Trung bình 1.124 ms và 2.807 ms p95 của nó mô tả sự nhận dạng và hoàn thiện cùng nhau trước khi chèn vào một ứng dụng khác.
Những gì đã hiệu quả
Quy trình xuất bản
Trình làm sạch đã giữ lại các số liệu và độ trễ trong khi loại trừ bản ghi, tài liệu tham khảo, lời nhắc và ngữ cảnh ứng dụng. Tính toàn vẹn của tệp công khai được ghi lại với các giá trị băm SHA-256.
Những gì còn lại
Bằng chứng từ tiêu chuẩn đánh giá
Lời nói của con người, nhiều giọng điệu và ngôn ngữ, thu âm trực tiếp từ micro, kiểm soát thứ tự nhiệt, quan sát mạng, nhiều thiết bị và hệ thống bên thứ ba vẫn là cần thiết.
03 · Loại trừ rõ ràng
Những gì phi công thử nghiệm này không cho thấy.
So sánh hiệu suất với bất kỳ sản phẩm nào khác.
Hiệu suất trên giọng nói con người, giọng địa phương hoặc giọng đa ngôn ngữ.
Micro trực tiếp, khử tiếng ồn, cổng im lặng, từ đầu, hoặc hành vi xả đuôi.
Hiệu suất khi lạnh so với khi ấm theo một giao thức nhiệt kiểm soát.
Hành vi ngoại tuyến hoặc bảo mật được thiết lập thông qua quan sát mạng.
Một khẳng định chung rằng một cấu hình thô hoặc đã được làm sạch thì tốt hơn.
Tập hợp dữ liệu, ma trận thiết bị, thứ tự và quy trình nhiệt không được đăng ký trước. Những quan sát này mô tả các lần chạy tuần tự này, trên tập hợp dữ liệu, thiết bị, phiên bản phần mềm và ngày tháng này.