„Krstný otec AI“ Geoffrey Hinton varuje, že rýchly rozvoj umelej inteligencie môže v blízkej budúcnosti spôsobiť vážne problémy. Nositeľ Nobelovej ceny pre The Guardian pripustil, že ľudstvo by na tom možno bolo lepšie, keby umelú inteligenciu nikdy nevyvinulo.
Podľa neho by už tento alebo budúci rok mohlo dôjsť k rozsiahlemu incidentu, ktorý by narušil fungovanie energetických či finančných systémov.
Hinton prirovnal súčasné bezpečnostné incidenty spojené s umelou inteligenciou k havárii americkej jadrovej elektrárne Three Mile Island z roku 1979.
Obáva sa, že môže nastať udalosť, ktorá bude svojím významom porovnateľná s černobyľskou katastrofou. Nemuselo by však ísť o jadrovú haváriu. Mohlo by ísť napríklad o kybernetický útok, ktorý by spôsobil rozsiahly výpadok elektriny alebo niekoľkodňové ochromenie bankového systému.
Vedec zároveň kritizoval predstaviteľov veľkých technologických spoločností, ktorí podľa neho uprednostňujú zisk a konkurenčný boj pred bezpečnosťou. Osobitne spomenul šéfa OpenAI Sama Altmana, Marka Zuckerberga či Elona Muska.
Hinton podporuje zavedenie prísnejších medzinárodných pravidiel, medzi nimi povinné testovanie pokročilých modelov umelej inteligencie a ich nezávislé hodnotenie.
Napriek varovaniam Hinton verí, že umelá inteligencia môže ľudstvu priniesť aj mimoriadne pozitívnu budúcnosť. Rozhodujúce však podľa neho bude, či sa ľuďom podarí zvládnuť riziká spojené s jej vývojom.
V opačnom prípade hrozí podľa neho rast sociálnych rozdielov, masová nezamestnanosť a vážne spoločenské problémy. O tom, ktorým smerom sa ľudstvo vydá, by sa podľa vedca mohlo rozhodnúť už v priebehu nasledujúceho desaťročia.
