今年1月,美国就出现了“AI拜登”事件,由AI生成的“假拜登”在电话中用逼真的声音鼓励可能支持民主党的5000位选民在新罕布什尔州初选中不要投票。这一事件引发了对于AI语音模仿技术可能带来的风险的广泛关注。本月早些时候,拜登呼吁国会通过立法来监管AI,包括禁止“AI语音模仿”等。</p>
在测试计划中,OpenAI要求其合作伙伴遵守其制定的使用政策:在使用语音样本之前要征得声音主人的同意,并明确告诉听众声音是AI生成的。该公司还在安装一种听不见的音频水印,以区分音频是否是由其工具创建的。</p>
OpenAI写道:“无论我们最终是否会广泛部署这项技术,让全球各地的人们了解这个发展方向都是非常重要的。”这一表态充分体现了OpenAI对于人工智能技术的开放态度和对于社会责任的承担。</p>
总的来说,OpenAI推出的“语音引擎”技术无疑为人工智能在语音合成领域的发展打开了新的可能,但同时也带来了新的挑战。如何在推动技术发展的同时,有效防止其被滥用,将是OpenAI以及整个人工智能行业需要面对的重要问题。</p>