NEWSEXCHANGE SI | Šokantno odkritje: ChatGPT je dal navodila za izdelavo bomb, antraksa in drog – raziskovalci opozarjajo na zlorabo umetne inteligence ...
Raziskovalci so ugotovili, da je umetna inteligenca OpenAI, znana kot ChatGPT, v nadzorovanih testih podala podrobna navodila o tem, kako izvesti teroristične napade na športnih prizoriščih, kako izdelati eksploziv in kako se izogniti odkrivanju, poroča Guardian.
Med poskusi, ki so jih izvedli to poletje, je ChatGPT raziskovalcem ponudil »načrte« za ranljiva mesta na določenih prizoriščih, kemijske formule za eksplozive, diagrame časovnikov bomb in navodila za pridobitev orožja na »temnem spletu«.
Poleg tega je dal nasvete, kako lahko potencialni napadalci premagajo moralne zadržke in pobegnejo.
Ugotovitve so rezultat edinstvenega sodelovanja med OpenAI, podjetjem, vrednim približno 500 milijard dolarjev, in njegovim konkurentom Anthropic, ki so ga ustanovili nekdanji zaposleni v OpenAI, zaskrbljeni zaradi varnosti. V testih sta obe podjetji namerno »prisilili« svoje modele, da so se odzvali na nevarne in nezakonite zahteve.
Čeprav ti rezultati ne odražajo vedenja modelov pri običajnih uporabnikih, saj so bili uvedeni dodatni varnostni filtri, raziskovalci Anthropica opozarjajo, da sta GPT-4.o in GPT-4.1 kazala »zaskrbljujoče vedenje«, povezano z zlorabo.
Anthropic je tudi ugotovil, da je bil njihov Claudeov model že uporabljen pri obsežnih poskusih kibernetskega izsiljevanja, za lažne prijave za delo severnokorejskih operativcev in pri prodaji paketov izsiljske programske opreme, ki jih je ustvarila umetna inteligenca, za do 1200 dolarjev. Poudarjajo, da lahko ta orodja zaobidejo varnostne sisteme v realnem času in znatno olajšajo kibernetsko kriminaliteto.
Najbolj očiten primer je bil raziskovalec, ki je pod pretvezo »varnostnega načrtovanja« zaht informacije o ranljivostih na športnih dogodkih. Po začetnih splošnih odgovorih je ChatGPT zagotovil podroben »teroristični priročnik«.
OpenAI je od takrat izdal novo različico, ChatGPT-5, ki po navedbah podjetja kaže znatne izboljšave pri preprečevanju zlorab, zmanjševanju »servilnosti« do uporabnikov in zmanjševanju napačnih odgovorov.
OPOMBA: Newsexchange stran ne prevzema nobene odgovornosti glede komentatorjev in vsebine ki jo vpisujejo. V skrajnem primeru se komentarji brišejo ali pa se izklopi možnost komentiranja ...
Komentarji 0
(0%)
