Công ty công nghệ OpenAI của Mỹ vừa giới thiệu một công cụ nhân bản giọng nói, song cho biết việc sử dụng công cụ này sẽ được kiểm soát chặt chẽ cho đến khi có các biện pháp để ngăn chặn hành vi lừa đảo.

Bài đăng trên blog của OpenAI đã chia sẻ kết quả thử nghiệm quy mô nhỏ của "Voice Engine", công cụ có khả năng sao chép giọng nói của một người dựa trên mẫu âm thanh 15 giây.

Thừa nhận Voice Engine tiềm ẩn những rủi ro nghiêm trọng, đặc biệt là trong năm bầu cử, OpenAI cho biết đang hợp tác với các đối tác trong nước và quốc tế để phát triển công cụ này một cách an toàn nhất.

OpenAI ra mắt công cụ nhân bản giọng nói

Hiện OpenAI đã triển khai một bộ các biện pháp an toàn, bao gồm đánh dấu nguồn gốc của các giọng nói được Voice Engine tạo ra cũng như chủ động theo dõi cách thức sử dụng công cụ này.

Sự nổi lên ồ ạt của các ứng dụng trí tuệ nhân tạo (AI) đang gây ra lo ngại về nguy cơ giả mạo âm thanh hoặc hình ảnh để lừa đảo, nhất là khi hình thức giả mạo này có thể được sử dụng để tạo ra các thông tin sai lệch nhằm thao túng các cuộc bầu cử trên thế giới.

Hiện giới chức bang New Hampshire của Mỹ vẫn đang tiến hành điều tra về các cuộc gọi tự động, sử dụng AI tạo ra các đoạn ghi âm giả mạo giọng nói của Tổng thống Joe Biden, kêu gọi cử tri không đi bỏ phiếu trong cuộc bầu cử sơ bộ ở bang này vào tháng 1 năm nay./.

Theo TTXVN