Raziskovalci z Univerze v Oxfordu in Google Deepmind so v novem članku, objavljenem prejšnji mesec v reviji AI, delili srhljivo opozorilo. Članek trdi, da je grožnja umetne inteligence večja, kot se je prej verjelo, in da bo verjetno nekega dne vstala in uničila človeštvo.
AI je impresiven?! Lahko simulira glas Vala Kilmerja v filmih (vau!) in je večkrat pomagal raziskovalcem rešiti zapletene probleme. Zdaj pa raziskovalci trdijo, da je grožnja umetne inteligence večja, kot smo si kdajkoli mislili.
Raziskovalci so svoje ugotovitve objavili konec avgusta v članku, v katerem trdijo, da obstaja nevarnost, da bi se umetna inteligenca lahko spremenila na podlagi številnih pogojev, ki so jih ugotovili raziskovalci. To tudi ni prvič, da raziskovalci vidijo AI kot možno grožnjo, vendar je ta novi dokument zanimiv zaradi verjetnih predpostavk, ki jih upošteva.
Glavna med temi predpostavkami, pravijo raziskovalci, je, da bi "vmešavanje umetne inteligence v njihove nagrade imelo zelo slabe posledice," je ta mesec na Twitterju dejal Michael Cohen, eden od avtorjev prispevka. Cohen pravi, da pogoji, ki so jih identificirali raziskovalci, kažejo, da je možnost grozečega zaključka močnejša kot v kateri koli prejšnji objavi.
Poleg tega ekipa pravi, da grožnja umetne inteligence temelji na eksistencialni katastrofi, "ki ni samo možna, ampak zelo verjetna." Cohen in njegovi kolegi raziskovalci ugotavljajo, da je ena največjih težav ta, da je vedno mogoče vložiti več energije v težavo, da jo pripeljemo do točke, ko je umetna inteligenca nagrajena za to, kar je naredila.
Kot taka bi nas lahko pripeljala v konflikt s stroji.
»Kratka različica,« piše Cohen na Twitterju, »je, da je vedno mogoče uporabiti več energije za povečanje verjetnosti, da bo kamera za vedno videla številko 1, vendar potrebujemo nekaj energije za pridelavo hrane. To nas postavlja v neizogibno konkurenco z veliko naprednejšim agentom.« S tem v mislih se zdi, da se lahko grožnja umetne inteligence spremeni glede na to, kako se poučuje.
Število, o katerem tukaj govori Cohen, temelji na testu, s katerim prisilimo agenta AI, da doseže določeno število. In ko mu je enkrat pokazan način za to, bi lahko porabil več energije za optimizacijo doseganja tega cilja. To je zanimiv predlog, ki kaže, zakaj so mnogi zaskrbljeni zaradi grožnje umetne inteligence.
Očitno primeri, navedeni v prispevku, niso edini možni rezultati. In morda bi lahko našli način, da obdržimo stroje pod nadzorom. Toda ta nova raziskava postavlja nekaj vprašanj o tem, koliko želimo v prihodnosti zaupati umetni inteligenci in kako jo lahko nadzorujemo, če pride do eksistencialne katastrofe.
Komentarji 0
OPOMBA: Newsexchange stran ne prevzema nobene odgovornosti glede komentatorjev in vsebine ki jo vpisujejo. V skrajnem primeru se komentarji brišejo ali pa se izklopi možnost komentiranja ...
Komentarji 0
Slike:
(0%)
