Tin Công Nghệ
ChatGPT liệu thực sự có thể bắt chước giọng nói?
OpenAI thừa nhận Chế độ giọng nói mới của ChatGPT có thể sao chép giọng nói của bạn một cách bất ngờ. Vậy thực hư của câu chuyện này ra sao, Máy Chủ Việt xin mời mời cả nhà cùng đón đọc bài viết dưới đây nhé!
ChatGPT liệu thực sự có thể bắt chước giọng nói?
ChatGPT đôi khi có thể khiến chúng ta nghĩ rằng nó suy nghĩ giống con người, nhưng hãy thử chờ đến lúc nó bất ngờ phát ra âm thanh giống hệt người dùng. Điều này có thể xảy ra với Chế độ Giọng nói Nâng cao mới của ChatGPT, cụ thể là với mô hình GPT-4o tiên tiến. Tuần trước, OpenAI đã công bố các tài liệu giải thích về khả năng của GPT-4o, trong đó có cảnh báo về khả năng khó xảy ra, nhưng có thể thực sự xảy ra khi Chế độ Giọng nói Nâng cao mô phỏng giọng nói của người dùng mà không được sự cho phép.
Chế độ Giọng nói Nâng cao cho phép người dùng trò chuyện bằng giọng nói với chatbot AI. Với mục tiêu làm cho các cuộc hội thoại trở nên tự nhiên và dễ tiếp cận hơn, AI cung cấp một số giọng nói có sẵn để người dùng lựa chọn. Tuy nhiên, tài liệu hệ thống đã chỉ ra rằng trong một số điều kiện nhất định, tính năng này có thể hoạt động ngoài ý muốn. Trong quá trình thử nghiệm, môi trường ồn ào đã kích hoạt AI bắt chước giọng của người dùng.
GPT-4o tạo ra giọng nói dựa trên các lời nhắc hệ thống, tức là các hướng dẫn ẩn định hình cách AI tương tác. Trong trường hợp tổng hợp giọng nói, lời nhắc này được xây dựng từ mẫu giọng nói đã được người dùng ủy quyền. Tuy nhiên, lời nhắc hệ thống không phải lúc nào cũng hoàn hảo. Khả năng tổng hợp giọng nói của mô hình ChatGPT từ các đoạn âm thanh ngắn cho thấy rằng trong một số điều kiện, nó có thể tạo ra các giọng nói khác, bao gồm cả giọng của chính người dùng.
Đã có đoạn clip minh họa điều này khi AI đột ngột thốt lên “Không!” với giọng nói giống người dùng, điều này càng làm tăng thêm minh chứng cho việc xảy ra sự việc này.
Xem nhanh các dòng máy chủ HPE chất lượng cao tại đây!
Bản sao giọng nói người dùng
“Việc tạo giọng nói cũng có thể xảy ra trong những tình huống không đối đầu, chẳng hạn như khi chúng tôi sử dụng khả năng đó để tạo giọng nói cho chế độ giọng nói nâng cao của ChatGPT. Trong quá trình thử nghiệm, chúng tôi cũng quan sát thấy những trường hợp hiếm hoi mà mô hình vô tình tạo ra đầu ra mô phỏng giọng nói của người dùng.” – OpenAI giải thích trong thẻ hệ thống.
Mặc dù việc tạo giọng nói không chủ ý vẫn tồn tại như một điểm yếu của mô hình, phía hãng cũng đang sử dụng các bộ phân loại thứ cấp, để đảm bảo cuộc trò chuyện bị dừng lại nếu điều này xảy ra, giúp giảm thiểu rủi ro tạo giọng nói không chủ ý.
OpenAI cho biết họ đã triển khai các biện pháp bảo vệ để ngăn chặn các sự cố như vậy. Điều này bao gồm việc sử dụng một bộ phân loại đầu ra để phát hiện các sai lệch, so với giọng nói được ủy quyền. Bộ phân loại này đóng vai trò như một biện pháp bảo vệ, đảm bảo rằng AI ChatGPT không phát ra âm thanh trái phép.
Tuy nhiên, thực tế là điều này đã từng xảy ra cho thấy công nghệ này đang phát triển nhanh chóng và các biện pháp bảo vệ cần phải liên tục cải tiến để theo kịp những khả năng của AI. Việc AI bất ngờ kêu lên “Không!” với giọng giống như người thử nghiệm nhấn mạnh khả năng AI vô tình làm mờ ranh giới giữa tương tác của con người và máy móc.
>>> Bảo vệ ngay hệ thống doanh nghiệp cũng tường lửa Palo Alto Networks
Kết luận
Thông qua việc ChatGPT có thể bắt chước giọng nói, càng khiến cho chúng ta thấy AI đang ngày càng ở một tầm cao, phát triển mới. Nhưng điều này có thực sự phù hợp hay sẽ đáng lo ngại, tất cả đều chưa có những nhận định rõ ràng về sự ảnh hưởng của chính. Với những thông tin mà chúng tôi vừa đem đến, hy vọng sẽ giúp bạn hiểu rõ hơn về sự cố bất ngờ này đối với chatbox, nếu cả nhà muốn biết thêm nhiều thông tin hơn, đừng quên thường xuyên theo dõi trang web nha.
Liên hệ ngay đến với chúng tôi để sắm máy chủ chất lượng cao
CHIA SẺ BÀI VIẾT
