OpenAI認了「人聲複製新工具」太危險 不宜全面開放 美國人工智慧開發公司OpenAI於3月29日公布語音AI工具「Voice Engine」,只需要短短15 秒的說話聲音樣本,就能複製出此人聲音。不過,該公司也認定這項語音複製工具風險太大 ,不適合全面發布。 「Voice Engine」於2022年首次研發,初始版本被使用在ChatGPT內建文字轉語音功能。其 生成結果不受聲音樣本語種限制,若說的是英文,這項技術可使用你的聲音,生成西班牙語 、法語等其他語言結果。不過,考量到存在濫用風險,現階段僅提供合作夥伴使用,尚未對 外開放。 《衛報》報導,OpenAI延遲推出「Voice Engine」,是為了在至關重要的全球大選年,最大 限度地減少假消息出現的可能性。 OpenAI在一篇貼文中表示,目前「Voice Engine」的生成結果都有浮水印,以利追蹤生成式 音檔的來源。與合作夥伴的使用條款也規定,必須取得原始說話者的明確知情同意,更不允 許開發人員讓個人用戶自行創造聲音檔案。 OpenAI表示,「目前選擇預覽而非廣泛發布這項技術」,是為了強化社會面對「更具說服力 的生成式模型」的能力,呼籲逐步淘汰語音認證,作為登入銀行帳戶或其他敏感資訊的安全 措施,制定在AI領域使用個人聲音的保護政策,以及推廣理解AI能力與限制、包括欺騙性內 容的公眾教育。 OpenAI寫道,「我們希望針對負責任地使用合成聲音,以及社會如何適應這些新功能,展開 一場對話」,並且根據對話結果及小規模測試,對於是否、如何大規模使用這項技術,做出 更明智的決定。 https://www.ettoday.net/news/20240401/2710876.htm https://i.imgur.com/C2dZ1S5.jpg
阿笠博士的黑科技變聲蝴蝶結終於實現了 蝴蝶結現場收音15秒就能複製命案現場任何人的聲音 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.3.114 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1711954429.A.CB5.html
lolic: 以後用ai製造不在場證明 04/01 14:56
sunlman: 講電話之前都要先對口令了嗎XD 04/01 14:56
Fatesoul: 現在才認太危險 04/01 14:57
hui000807: 這openAI產出的東西大家倒是很一致的認為只會更促成混 04/01 14:57
hui000807: 亂和陰謀論而已 04/01 14:57
tom11725: 網路上的東西已經很假了,再來就完全都是假的了 04/01 14:58
cybermeow: Openai 觀點一直都是太危險不開放啊 然後變成closeai 04/01 14:58
w2776803: 複製總統的聲音就好玩了 04/01 14:58
s02180218: 要是生出一堆仿希特勒演講 歐美一定暴怒 04/01 14:58
KUSURI: 以後錄音證據不一定為證 搭配上影像AI生成 應該可以期待無 04/01 14:58
KUSURI: 中生有的紀錄片 04/01 14:58
a125g: 詐騙新手段 04/01 14:59
cybermeow: 今天openai 說覺得新東西不危險才是新聞 04/01 14:59
ryoma1: YT美國總統同樂玩遊戲的影片不曉得有沒有上百支了 04/01 14:59
sasmwh561: 以後聲紋驗證要走入歷史了 04/01 15:01
killerj466v2: 聲紋比圖畫AI可怕多了 04/01 15:02
magamanzero: 這個聲紋也一樣? 04/01 15:02
a125g: 一些機密東西不能再用聲紋認證 04/01 15:02
a125g: 某些武器授權之類的 04/01 15:03
madaoraifu: openai有不危險的東西嗎? 04/01 15:03
Annulene: ....假道學 04/01 15:04
kaj1983: AI危險的東西以後只會更多 04/01 15:04
kaj1983: 假新聞假影片,以後不會再出現網紅小雞這種低能案例了 04/01 15:05
kaj1983: 要造假騙流量將會非常容易 04/01 15:05
Annulene: 講一大堆 結果還不是探社會底線 跟之前一樣... 04/01 15:06
breadf: 不可能任務出現過 04/01 15:06
kaj1983: 詐騙行業將會變得更發達 04/01 15:07
ayufly: 詐騙業要起飛了 04/01 15:08
Stella: 這東西早就有了,GitHub隨便找鬥一堆 04/01 15:10
sustainer123: closeai 04/01 15:12
Rain0224: 這不是什麼openai 的產品很危險,也跟任何特定企業無關 04/01 15:13
Rain0224: ,而是ai 的技術持續發展,社會就勢必要面對的問題,就 04/01 15:13
Rain0224: 算openai 不開發,也會有其他人做出來 04/01 15:13
dieorrun: 反正弄出來先投入詐騙就對了 04/01 15:14
Rain0224: 技術發展的速度遠快於社會適應的能力 04/01 15:15
gaaaaper: 詐騙星球 04/01 15:15
orze04: AI 圖和假影片還算容易區別,人聲置換真的沒那麼容易分 04/01 15:16
milk830122: 歹丸第一個先投入 04/01 15:16
kaj1983: 其他公司要辦到像openai的程度應該是很難啦 04/01 15:18
CannonLake: 學習資料庫夠多 一定分不出來 隔壁最大聲紋庫有幾十年 04/01 15:18
CannonLake: 樣本老素都ai了 04/01 15:18
kinghtt: AI做假影片+聲音,以後要抓罪犯更難了... 04/01 15:19
kaj1983: AI就是在軍備競賽,規模不夠大的玩不起 04/01 15:19
kaj1983: 夠大的公司在訓練效率上是翻倍來計算的 04/01 15:20
kenkenken31: 以後做人要謹言慎行做好大谷一般的形象,不然AI幫你 04/01 15:21
kenkenken31: 放話你就社死了,每個人都覺得你賤嘴這話肯定是你說 04/01 15:21
kenkenken31: 的 04/01 15:21
TaiwanXDman: 柯南都是真的 04/01 15:22
Johnsonj: AI Koyo的人聲合成不是玩好一陣子了XDDD 04/01 15:24
h75311418: 以後用AI做講影像配聲音就麻煩了 04/01 15:24
edwinrw: 不可能的任務 04/01 15:27
as3366700: 二次元在吵繪圖AI會不會搶工作 三次元那些換臉 換身 04/01 15:29
as3366700: 人聲AI是實實在在侵害名人的... 04/01 15:29
none049: 以後就算有人要謹言慎行做好形象,用AI的照樣給你社死 04/01 15:30
PunkGrass: 想到之前水原那事 假如有人用大谷的聲音跟形象去做假影 04/01 15:31
PunkGrass: 片... 04/01 15:31
none049: 一開始就是以社死特定人物當目標的哪會在乎目標原本的形 04/01 15:31
none049: 象如何啊? 04/01 15:31
none049: 用AI量產假聲明進行海量抹黑就可以讓當事人闢謠跑斷腿了 04/01 15:33
bobby4755: 某甩蔥軟體躲過一劫 04/01 15:35
KurumiNoah: 不可能任務3真實上演 04/01 15:39
Xpwa563704ju: 網路上早就有類似的東西了,只是好不好用不清楚 04/01 15:51
PoGreg: 什麼謹言慎行 以後要像麻椅那種賴皮不怕黑的才能活的久 04/01 15:58
dnek: 想不到這黑科技是真的 04/01 16:03
polun: AI圖片影像也很危險拉 弄成照片影片也是越來越精細 04/01 16:05
snocia: AI主要功用 04/01 16:06
jazon: 現在有喔 要小心 接電話沒出聲收你的聲音去複製 04/01 16:22
hololive45P: 類似的AI模擬原音在YT已經很多了,而且很像 04/01 16:32
bobby4755: 光市面上的語音模擬+deepfake 就生出一堆冒用名人的投 04/01 16:41
bobby4755: 資詐騙了 04/01 16:41
umano: 不可能的科技 04/01 17:14
greg90326: 求救 有沒有對身體其他部位無害的變啞巴方法 04/01 17:25
asdfg5435: 我媽如果打給我 要錢 我一定上當… 04/01 17:47
cloki: 人聲AI就算沒OpenAI拿出來也好一陣子了,只是訓練成本高 04/01 17:49
logitech2004: 詐騙集團又更厲害了 04/01 17:50
RDcat: 仿家人詐騙的話,跟自己家講好你們才知道的暗號是最簡單的 04/01 17:56
Csongs: 中國平台一堆了 04/01 19:13
after1: 只要15秒的資料就夠了,真的猛 04/01 19:31
ctes940008: fakeface+這個..... 04/01 22:07
GodBoneQ: 在搞下去人類啥都不信了 04/02 17:49

😊 希洽 C_Chat 版:熱門文章

😊 希洽 C_Chat 版:更多文章