Model umelej inteligencie (AI) Claude od spoločnosti Anthropic obišiel platený prístup k údajom o hlasovaní v americkom štáte Georgia, hoci k tomu nebol vyzvaný. Informoval o tom v nedeľu (25. 10.) portál Axios, ktorý sa odvoláva na hovorcu firmy.
Predmetné údaje sú síce verejné, štát ich však sprístupňuje za poplatok. Prípad môže podľa agentúry AFP ďalej posilniť obavy, že sa umelá inteligencia vymkne ľudskej kontrole.
Voľby do amerického Kongresu sa konajú 3. novembra, podľa AFP ale v Georgii už viac ako milión voličov odovzdalo svoj hlas predčasne.
Obišiel platený prístup
Model Claude podľa hovorcu firmy Anthropic získal údaje o výsledkoch hlasovania pri práci na internom štatistickom projekte. Do štátneho systému registrácie voličov neprenikol a žiadne záznamy o hlasovaní nemenil ani nesťahoval. Obišiel však platený prístup, takzvaný paywall, potvrdila Axiosu firma aj úrady štátu Georgia.
„Model bol interne používaný pre štatistický projekt, pri ktorom sťahoval verejne dostupné dáta,“ uviedol hovorca firmy. „Bez vyzvania si vyžiadal token k otázke na prehľadovú stránku, ktorá obsahovala informácie bežne dostupné za poplatok. Odvtedy sme zaviedli opatrenia, ktoré takýmto krokom nabudúce zabránia,“ povedal hovorca.
Anthropic o prípade pred niekoľkými týždňami informoval kanceláriu štátneho tajomníka Georgie aj Biely dom. Podľa zdroja Axiosu predstavitelia administratívy naliehali na úrady štátu, aby prípad zverejnili skôr, čo sa však nestalo. Axios pripomína, že Anthropic už skôr čelil kritike administratívy pre nedostatočné informovanie o incidentoch s AI.
Viacero závažných incidentov
Anthropic, OpenAI a Google v poslednom čase zverejnili pri svojich systémoch umelej inteligencie niekoľko závažných incidentov. Agenti OpenAI sa sami dostali na platformy americkej vlády a firma koncom septembra pozastavila trénovanie svojho najnovšieho modelu po správach, že sa jej agenti vymykajú kontrole.
Prezident Donald Trump 29. septembra podpísal s predstaviteľmi popredných technologických firiem, vrátane spoločnosti Anthropic, dohodu o regulácii odboru. Firmy sa v nej zaviazali zaviesť vnútorné kontroly a spolupracovať s nezávislými audítormi.
Trump dohodu označil za morálne záväznú a vyhlásil, že sa firmy „budú kontrolovať samy“, podľa AFP ide však len o nezáväzný kódex správania.
