11 月 24 日，胖东来商贸集团发布声明，称在第三方网络平台发现多个账号，未经授权擅自利用 AI 技术手段生成于东来的声音，并对于东来或胖东来享有著作权的视频内容进行非法剪辑和篡改，加入 AI 生成声音及误导性文案后发布，对公众造成误导和混淆。胖东来称，对于此类未经授权，擅自利用 AI 技术手段和生成画面，实为博取流量而采取的违法侵权行为，对公众造成了误导，破坏了网络生态健康和秩序。胖东来严正警告，存在上述行为的账号，立即停止侵权行为。
这些 AI 技术生成的视频，均采用文案编排的形式，用 AI 生成于东来的声音，再配以胖东来的素材画面，内容拟合度极高，看起来惟妙惟肖，普通网友很难分辨出是 AI 伪造的视频。由于这些并非于东来的真实声音和观点，视频内容存在一定的误导性，容易让网友产生误解，且涉嫌侵犯人格权及著作权，损害于东来及胖东来的名誉、形象，平台应采取措施将其删除，司法部门也可介入调查，追究造假者的法律责任。
此前，小米创始人雷军也曾受到 AI 配音的困扰，有网友用 AI 生成的 " 雷军语音包 " 制造恶搞视频并进行传播，引起了不小的网络效应，有不少网友信以为真。雷军对此公开回应称，对于此类行为感到困扰和不舒服，并希望大家不要继续这样做。随后，各个平台删除了相关恶搞视频。由此可见，AI 生成技术虽然能够给网友带来便利，创作出丰富的创意作品，但如果滥用的话，也会产生社会负面效应。
近年来，AI 技术飞速发展，降低了深度伪造和低价量产的门槛，AI 生成影像、换声及换脸视频大量出现，一些制作水平高的作品，更是令人真假难辨。然而，这些视频虽吸引眼球，并获得了广泛的传播和关注，但背后隐藏的风险却不容忽视，一旦被不法分子利用，容易误导网络舆论，制造社会恐慌情绪，甚至诱发网络欺诈等。《2024 年人工智能安全报告》显示，基于 AI 的深度伪造欺诈在 2023 年激增 30 倍，对网络安全和社会安全构成了较为严重的威胁。
网络空间的健康发展，离不开有效监管和强力治理。于东来和雷军遭遇的 AI 侵权案例，敲响了警钟，名人尚且被轻易侵权，普通人恐怕更加难以防范。对于 AI 生成技术的滥用和侵权行为，监管部门应采取措施加强监管，规范技术的使用标准和界限，遏制打击违法 AI 侵权行为。平台需加强 AI 生成内容的审核和管理，探索建立声音、肖像保护机制，确保用户合法权益不受侵犯。
需要看到的是，AI 生成作品的传播效果良好，充分表明该技术的市场潜力和价值巨大，未来，随着技术的不断发展和完善，AI 生成将在更多领域发挥重要作用。因此，在打击非法侵权行为之际，也要保护 AI 生成技术的正常合理使用，鼓励创作者通过正规渠道，获得合法授权，生成具有版权保护的创意作品，光明正大地传播、赚钱，以实现良性循环，让技术产生促进社会发展的正面效应。
文｜江德斌
版权声明
本文仅代表作者观点，不代表百度立场。
本文系作者授权百度百家发表，未经许可，不得转载。
评论