Ľudia, ktorí vyvíjajú umelú inteligenciu, úprimne veria, že by mohla do konca desaťročia zabiť celé ľudstvo. Podľa portálu Politico to tvrdí výskumník AI Jacob Coxon, ktorý po odchode z technologickej spoločnosti Anthropic zverejnil ostré varovanie o rizikách vývoja umelej inteligencie.
Odborník Coxon pôsobil aj v známej spoločnosti OpenAI. Neskôr pracoval v Anthropic, pričom svoj odchod zo spoločnosti oznámil na sociálnej sieti X. Vyhlásil, že obe firmy „hazardujú s našimi životmi“ a varoval, že svet by nemal podceňovať silu tejto technológie.
„Čoskoro pôjde o nadľudské systémy, ktoré dokážu hacknúť čokoľvek, cez noc zmeniť akékoľvek odvetvie a získať reálnu moc aj zdroje. Všetci sme videli, aký rýchly pokrok nastal, a nič nenasvedčuje tomu, že by sa spomaľoval,“ napísal.
Coxon vyhlásil, že Anthropic a OpenAI sa „pretekajú o vytvorenie takzvanej samovylepšujúcej sa superinteligencie.“ Podľa odborníka ide o scenár, v ktorom by model umelej inteligencie dokázal vytvoriť ešte výkonnejšiu verziu seba samého, čím by vznikla nekontrolovateľná spätná väzba.
Ako uviedol portál Politico, takýto vývoj považujú za jednu z možných ciest k vzniku umelej superinteligencie aj ďalšie popredné AI spoločnosti.
Plán na zastavenie superinteligentnej AI zatiaľ neexistuje
Coxon zároveň v ďalšom príspevku vyhlásil, že ľudia, ktorí vyvíjajú AI „úprimne veria, že by nás všetkých mohla do konca desaťročia zabiť.“
S tvrdeniami výskumníka umelej inteligencie súhlasil aj ďalší zamestnanec spoločnosti Anthropic. „Jacob má pravdu. Naozaj úprimne veríme, že AI by mohla zabiť všetkých ľudí,“ napísal vedúci tímu spoločnosti Anthropic zodpovedného za zosúladenie umelej inteligencie s ľudskými hodnotami Evan Hubinger.
Podľa neho je pravdepodobnosť takéhoto scenára v najbližšom desaťročí viac ako desať percent. Dodal, že momentálne neexistuje plán, ako by mala superinteligentná AI zostať v súlade s cieľmi ľudí.
Ako pripomenul Politico, v Európskej únii už platí zákon o umelej inteligencii, ktorý spoločnostiam ukladá povinnosť posudzovať a zmierňovať takzvané riziká straty kontroly nad AI, teda situácie, keď ľudia prestanú mať nad modelmi kontrolu.
