Internets aktivizējas, jo 4Chan lietotājs izmanto AI balss simulatoru, lai viltotu Emmas Vatsones balsi, liek viņai lasīt Hitlera autobiogrāfiju
Bijušie Google un Palantir darbinieki kopā izveidoja jaunuzņēmumu Elevenlabs, kura mērķis bija radīt augstas kvalitātes slavenību audio viltojumus, izmantojot savu AI balss klonēšanas rīku. Taču to beta palaišana drīz vien radīja neveiksmi, daudzi ļaunprātīgi izmantoja slavenību, tostarp Emmas Vatsones, balsis, izmantojot AI balss klonēšanas rīku.
Daudzi fani ir saniknoti par neētisku un amorālu mākslīgā intelekta rīka izmantošanu pēc tam, kad daži troļļi ļaunprātīgi izmantoja savas iecienītākās slavenību balsis, lai izplatītu nežēlīgus komentārus. Taču starta uzņēmums visiem ir apliecinājis, ka gatavojas mainīt savu modeli, lai izvairītos no turpmākām problēmām.
Fani saniknoti pēc tam, kad 4Chan lietotājs ļaunprātīgi izmanto Emmas Vatsones balsi, izmantojot AI rīku
Elevenlabs AI balss klonēšanas rīka ieviešana ir aizdedzinājusi internetu pēc tam, kad daudzi troļļi ir izmantojuši šo bezmaksas rīku. Lai gan daudzi ir izmantojuši programmatūru, lai radītu veselīgu saturu, daļa interneta ir ļaunprātīgi izmantojusi rīku, lai liktu slavenībām izplatīt rasistiskus apvainojumus un nežēlīgus komentārus, kā arī ļaunprātīgi izmantot Emma Vatsone balss bija pēdējais piliens.
Nesen. Mātesplate ziņoja par AI programmatūras ārkārtēju ļaunprātīgu izmantošanu, lai radītu aizvainojošu dziļu viltus audio. Bet salmiņš, kas salauza kamieļa muguru, bija 4Chan lietotājs, kurš izveidoja klipu Harijs Poters zvaigzne Emma Vatsone lasa mana cīņa , nacistu diktatora Ādolfa Hitlera autobiogrāfija.
Fani ir saniknoti par Emmu Vatsoni un citām pazīstamām slavenībām, tostarp Džo Roganu, Robinu Viljamsu u.c. programmatūras neētisko izmantošanu. Elevenlabs, kas šo tehnoloģiju padarīja pieejamu sabiedrībai, ir pievērsusies šai pieaugošajai problēmai un apņēmusies cīnīties pret viņu balss klonēšanas rīka ļaunprātīga izmantošana.
Lasiet arī: Filmas 'Azkabanas gūsteknis' režisors lūdza Harija Potera trio uzrakstīt eseju par savu raksturu — Emma Vatsone uzrakstīja 16 lappuses, Danielam Redklifam bija 1 lappuses kopsavilkums, Rūperts Grints neuzrakstīja vienu
Elevenlabs sola izvairīties no turpmākas mākslīgā intelekta rīka ļaunprātīgas izmantošanas
Startup bija pārsteigts par pozitīvo atbildi arī viņiem sākumā, jo daudzi izmantoja AI balss klonēšanas rīku veselīgai radīšanai. Taču uzņēmums drīz saskārās ar problēmu pēc tam, kad troļļi sāka izmantot programmatūru negodīgiem mērķiem. Uzņēmums Elevenlabs ir apliecinājis internetam, ka viņi rūpīgi izskata šo jautājumu un izdomā iespējamos risinājumus.
Lai gan Elevenlabs veidotāji atzina, ka viņi var izsekot lietotājiem, kuri ļaunprātīgi izmanto AI rīka spēku, viņi meklē papildu drošības pasākumus, lai izvairītos no šīs problēmas. Radītāji dalījās dažādās idejās, kā risināt šo problēmu, tostarp manuālas verifikācijas ieviešanu katrai klonēšanai un lietotāja pilnu ID verifikāciju, izmantojot maksājumu vai jebkuru citu metodi.
Lai gan Startup beta testēšana sākās neviennozīmīgi, daudzi fani bija sašutuši par slavenību balsu neētisku izmantošanu, izmantojot AI rīku, īpaši Emmu Vatsoni. Taču cilvēki ir arī atzinuši startapu par to, ka tas nav novērsis situāciju un aktīvi rīkojies, lai tiktu galā ar šiem interneta troļļiem.
Avots: Vice
