1.媒體來源:東森新聞雲 2.記者吳美依 3.完整新聞標題: OpenAI認了「人聲複製新工具」太危險 不宜全面開放 4.完整新聞內文: https://cdn2.ettoday.net/images/7351/d7351915.jpg
美國人工智慧開發公司OpenAI於3月29日公布語音AI工具「Voice Engine」,只需要短短15 秒的說話聲音樣本,就能複製出此人聲音。不過,該公司也認定這項語音複製工具風險太大 ,不適合全面發布。 「Voice Engine」於2022年首次研發,初始版本被使用在ChatGPT內建文字轉語音功能。其 生成結果不受聲音樣本語種限制,若說的是英文,這項技術可使用你的聲音,生成西班牙語 、法語等其他語言結果。不過,考量到存在濫用風險,現階段僅提供合作夥伴使用,尚未對 外開放。 《衛報》報導,OpenAI延遲推出「Voice Engine」,是為了在至關重要的全球大選年,最大 限度地減少假消息出現的可能性。 OpenAI在一篇貼文中表示,目前「Voice Engine」的生成結果都有浮水印,以利追蹤生成式 音檔的來源。與合作夥伴的使用條款也規定,必須取得原始說話者的明確知情同意,更不允 許開發人員讓個人用戶自行創造聲音檔案。 OpenAI表示,「目前選擇預覽而非廣泛發布這項技術」,是為了強化社會面對「更具說服力 的生成式模型」的能力,呼籲逐步淘汰語音認證,作為登入銀行帳戶或其他敏感資訊的安全 措施,制定在AI領域使用個人聲音的保護政策,以及推廣理解AI能力與限制、包括欺騙性內 容的公眾教育。 OpenAI寫道,「我們希望針對負責任地使用合成聲音,以及社會如何適應這些新功能,展開 一場對話」,並且根據對話結果及小規模測試,對於是否、如何大規模使用這項技術,做出 更明智的決定。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://www.ettoday.net/news/20240401/2710876.htm 6.備註: o'-'o -- ▅▄▅▄ ▃▂ ▂▁ .-——-﹏ ▄▄ Trinity | \ ▼ / \ ▇▅ ∕▄▅▄ \ ( ▄▃▄▄▃▄ Make-Up ● ● ● ● ⊙ ⊙ /▇/ Work Club -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.230.149.98 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1711953598.A.052.html
ZakkWylde: 統神早就有了 不愧是神 101.10.46.205 04/01 14:40
STi2011: 放心 肯定快氾濫了 59.125.79.58 04/01 14:40
vowpool: 台灣政治人物以後說過啥話都可以不用認了 125.227.40.62 04/01 14:40
bill403777: 沒事本來就有了 還是更猛? 42.73.180.78 04/01 14:40
staristic: 當有第一個出現,大量出現是遲早的事 58.80.21.170 04/01 14:41
Stupidog5566: 翻譯: 多給點錢就開放這功能118.160.206.139 04/01 14:41
lucifiel1618: 你隨便到github上都能找到成熟的相 111.254.92.146 04/01 14:41
dayend: 連我媽 都以為AI是我 本尊是假的^^ 103.59.108.73 04/01 14:41
lucifiel1618: 似軟體,講得什麼先進東西一樣笑死 111.254.92.146 04/01 14:41
lucifiel1618: 幾百年前就已經超級氾濫的東西 111.254.92.146 04/01 14:42
SUMPO: 柯南 211.23.129.170 04/01 14:42
jason222333: 詐騙的極致223.140.228.107 04/01 14:42
lipstick: 統神都一堆了 sb 36.224.120.249 04/01 14:43
gk1329: 配音員全面失業 39.9.103.227 04/01 14:43
kausan: 早就有了 27.67.123.245 04/01 14:44
kimkim9988: 詐騙集團一定會弄到手 203.190.20.137 04/01 14:44
nnkj: 我準備開間 生前複製 公司把 志玲嘉嘉數位化 36.231.82.47 04/01 14:44
yzelly: 拜託,都一堆用ai 外國歌手聲音唱中文歌了 49.217.192.22 04/01 14:45
nnkj: 木村拓哉金城武也數位化做成AI 36.231.82.47 04/01 14:46
mij: 來不及了 詐騙集團都弄到手了111.240.129.145 04/01 14:47
devidevi: 風險太大XDD 49.159.219.21 04/01 14:47
excercang: 這個用在老人死去後遺產分配上用220.135.207.212 04/01 14:47
douge: 選前: 貪汙錄音證據 抓到了140.112.175.204 04/01 14:47
douge: 這件事情 哪一年美國選舉會出現呢?140.112.175.204 04/01 14:48
excercang: 即使是不孝子也能靠AI變造口述遺囑220.135.207.212 04/01 14:48
clydebbman: 柯南表示 :122.118.170.194 04/01 14:48
aigame: 一堆開源早就到處流竄了 114.26.86.19 04/01 14:48
dayend: 這東西真的會影響的 是聲紋辨識的保安系統 103.59.108.73 04/01 14:48
mo42: 不開放=我可以用 你們不能用~ 1.136.104.158 04/01 14:48
excercang: 拿到大量財產220.135.207.212 04/01 14:48
z842657913: 詐騙集團要爽到射精了 49.216.110.11 04/01 14:48
orze04: 已經夠氾濫了223.136.118.184 04/01 14:48
dayend: 人耳聽起來像 跟聲紋比對系統相比 太粗糙 103.59.108.73 04/01 14:49
aigame: 大陸網路卡通早就一堆明星AI配音了 114.26.86.19 04/01 14:49
kojajay: 很快就會在政治上 出現了 42.79.244.160 04/01 14:49
Stupidog5566: 內文根本沒說不開放 而且已經給他們118.160.206.139 04/01 14:49
broian: 有錢的還不是照用 變普通人用不到而已 101.10.67.35 04/01 14:49
dayend: 目前用最多聲紋比對的 就各國的類FBI CIA 103.59.108.73 04/01 14:49
Stupidog5566: 的合作夥伴使用了 簡單來說就是要錢118.160.206.139 04/01 14:50
raku: 以後就影像照片音檔都不能當證據的時代 223.137.12.43 04/01 14:50
DarkChilles: 詐騙集團爽到翻來覆去114.137.247.221 04/01 14:50
dayend: 法院目前也是蠻多接受聲紋比對的^^ 103.59.108.73 04/01 14:50
losel: 15秒???111.240.209.185 04/01 14:51
retrud: 以後很難證明你媽是你媽了223.137.193.246 04/01 14:52
rainylife: 以後要假新聞滿天飛了 42.79.7.60 04/01 14:52
sexygnome: 陳菊avi真的要上市了 223.137.150.71 04/01 14:52
jameshcm: 林百里.rar 36.239.247.42 04/01 14:53
hydralee: 黨被錄影的都是Deepfake被錄音都OpenAI 223.137.70.26 04/01 14:53
segga: 台灣詐騙新創產業再創高峰 42.71.124.185 04/01 14:53
Stella: 雖然,但是,這東西早就有了,GitHub上面 27.247.66.249 04/01 14:53
Stella: 隨便找都有 27.247.66.249 04/01 14:53
madaofreak: 詐騙集團的終極工具 39.12.9.252 04/01 14:53
cat05joy: 假圖片假音檔假影片都有了 看你以後怎鬥 211.20.117.1 04/01 14:53
junshinw: 早就有了 42.72.145.96 04/01 14:55
xfaw4d35t: 看來是收費功能101.136.104.176 04/01 14:56
barry841120: 詐騙集團新工具 36.229.99.197 04/01 14:58
Araiman: 花了那麼多錢 敵不過道德風險 110.28.34.163 04/01 14:59
basslife: 詐騙集團表示興奮 61.220.127.70 04/01 15:00
Chen7: 早就來不及了吧 60.250.201.82 04/01 15:00
gn01693664: 統神AI 114.137.79.106 04/01 15:01
bart102617: 台灣早就用過這詐騙了 220.129.25.98 04/01 15:05
leecoco: 連打電話都無法辨識真假啦 42.71.46.58 04/01 15:06
zaqimon: 不是早就有了 123.194.149.99 04/01 15:09
junshinw: https://i.imgur.com/A5OJsbe.jpg 42.72.145.96 04/01 15:10
fujimoto: 視訊都有假的了何況聲音 39.10.48.249 04/01 15:12
twmadrid: 我怎記得就算openai不開放 仿間一堆這 42.77.236.134 04/01 15:13
ahlolha: 貝克街的亡靈就有了 還在那新工具 49.218.95.130 04/01 15:13
twmadrid: 種工具 42.77.236.134 04/01 15:13
isaa: 台灣詐騙集團必備 42.79.159.110 04/01 15:14
iam0718: 矽谷群俠演過了111.255.101.125 04/01 15:16
Human2003: 早就流通了吧 話說配音員是不是要失業 210.242.25.55 04/01 15:20
dong80: 聲紋解鎖要全部作廢了 124.8.37.118 04/01 15:23
darkMood: 不意外,以前沒見到人前都是假的。 175.181.113.10 04/01 15:23
darkMood: 後 175.181.113.10 04/01 15:24
birdy590: 很快對岸就會有公司放出來了 27.242.102.165 04/01 15:29
skygray2: 詐騙集團肯定拿來大用特用 61.216.55.178 04/01 15:31
cccwahaha: 這應該是複製聲紋了 如果沒對應的破解 36.226.90.148 04/01 15:32
cccwahaha: 等於會無法確定到底是本人還AI講的話 36.226.90.148 04/01 15:33
cat5672: 同人里番已經用的很爽了 啊嘶~ 49.216.104.26 04/01 15:33
idolater: 詐騙新工具 60.248.119.235 04/01 15:35
broian: 配音員應該還好 主播這種比較危險 101.10.67.35 04/01 15:36
koj: 不可能的任務就玩過了 101.10.14.116 04/01 15:38
WWIII: 詐騙集團 嘿嘿嘿 36.229.130.195 04/01 15:42
poz93: 台灣詐騙集團已經準備開高薪挖角AI人才 118.171.1.247 04/01 15:44
jil: 以後錄音可能也不能當證據了 111.253.194.5 04/01 15:52
eudemonscv: 不用請歌手唱現場,改請AI。 42.73.127.54 04/01 15:56
samm3320: 我以為詐騙集團已經開始用了 42.72.37.15 04/01 15:58
joke3547: 現在才想到? 114.137.207.22 04/01 16:03
josh0114: 越想越恐怖 114.136.92.118 04/01 16:04
aaff0511: ai統神曲目多到可以出合輯了才在講不安 42.73.213.18 04/01 16:04
aaff0511: 全 42.73.213.18 04/01 16:04
koexe: 詐騙神器 223.138.18.99 04/01 16:24
pieceioriX: 詐騙升級 42.72.49.184 04/01 16:26
xxxholic031: 現在才小心也太遲鈍,網路上都一堆A 114.33.43.57 04/01 16:34
xxxholic031: i翻唱了,被拿來犯罪是遲早的事 114.33.43.57 04/01 16:35
mewofpqaz: 熊哥哥的聲音都早就被玩到壞掉了 42.78.54.8 04/01 16:38
LiangNight: 你不出 其他人也會出 1.172.0.79 04/01 16:39
leo921080931: 柯南那個都是真的223.137.228.154 04/01 16:39
lsslz: 早晚會一堆公司做得出來 擋也沒用 49.216.192.237 04/01 16:43
other9343: 詐騙又取得重大突破了科科 207.174.28.181 04/01 16:44
gcobc07494: 哥哥的心焦U真的好頂 還有瘸瘸的 118.166.153.39 04/01 16:45
DUFTON: This is Tony Your homie 42.73.50.238 04/01 16:48
Eumenides: 詐騙大勝利 49.217.193.227 04/01 16:48
yuumyng: 台語有辦法嗎?122.121.227.136 04/01 16:52
secretmen: 可以用AI叫hey! Siri 42.77.118.104 04/01 16:59
tskcuit: misson impossible 第幾集? 101.137.18.43 04/01 17:07
liker1412: AI影像目前還很假 但聲音就不知道了 60.250.51.145 04/01 17:17
EXZUSIC: 有錄音為證,傳位于四子 123.195.0.100 04/01 17:18
shwkz: 以後就是人造人時代了...人類會被AI取代 101.0.236.184 04/01 17:24
gisasy001: 詐騙集團表示 49.215.22.118 04/01 17:27
cloudpart2: 遲早的 114.46.111.139 04/01 17:28
cloudpart2: 以後只能講台語 114.46.111.139 04/01 17:28
ryan1106: 詐騙集團:商機來囉… 49.217.192.123 04/01 17:39
qxpbyd: 已經有一堆開源的 61.230.246.215 04/01 17:41
kausan: 晚了 27.67.123.245 04/01 17:43
bryanwang: AI遲早會毀了世界秩序 223.136.147.75 04/01 18:00
CTUST: Mission Impossible3, what is rab 223.137.142.99 04/01 18:12
CTUST: bit foot? 223.137.142.99 04/01 18:12
lovehinata: 詐騙好幫手 223.136.66.248 04/01 18:31
shinmori: 合作夥伴才能用,感覺更危險 114.27.29.230 04/01 18:38
jimmy1688: 來不及了 219.85.228.111 04/01 18:48
issemn: AI孫燕姿表示 220.143.75.156 04/01 18:52
hate9989: 有這個選舉會被拿來抹黑 223.141.138.63 04/01 18:53
sheep79119: 阿不就變聲器126.156.183.132 04/01 19:05
ting445: 沈睡的小五郎 124.218.229.88 04/01 19:32
Somebody99: 這東西不算違法肖像權嗎? 223.136.98.174 04/01 19:55
rtoday: b站都已經教你怎麼搞了你新聞現在才出 111.83.54.218 04/01 20:45
inuwanwan: 數位世界會不會因此崩掉?還是成長111.254.102.156 04/01 21:12
serrier: AI有沒有認為政治人物很危險? 36.228.152.39 04/01 21:20
u9596g12: 詐騙早就拿來用了 還要你開放喔 笑死 218.35.130.171 04/01 21:21
fony1029: 詐騙集團準備好了 223.137.4.135 04/01 21:29
parkyu531: 世界進入失序的開始 39.15.17.217 04/01 22:16
evaras: https://tinyurl.com/mry6rhvy 36.228.92.130 04/01 22:30
venomsoul: 統神已經唱遍所有熱門金曲了 111.83.245.47 04/01 22:30
evaras: 看看咱們台灣人 36.228.92.130 04/01 22:31
tonyian: 銀行肯定是等到遍地開花才會開始動作啊 218.35.163.91 04/01 23:16
tonyian: ,所以就直接放出來吧 218.35.163.91 04/01 23:16
jhihheng: 可以複製一堆妹子跟我打砲嗎 27.240.169.228 04/02 00:18
acergame5: 台灣不怕 換臉禁了 換音一樣可以 1.160.27.1 04/02 00:19
imba789: 詐騙更好 180.176.74.21 04/02 01:32
fthufccqpk: 早就有了啊 你不出別人會出阿 59.126.81.227 04/02 03:08
power8050: 這部我看過 阿湯哥演的 42.72.74.211 04/02 07:50
shooter555: 一些生物辨識的技術是不是都可以廢了 114.34.208.240 04/02 09:26

💬 八卦 Gossiping 版:熱門文章

💬 八卦 Gossiping 版:更多文章