„Od čias Isaaca Asimova v 50tych rokoch minulého storočia sa sci-fi literatúra zaoberala otázkou, či umelá inteligencia (UI) a spoločnosti, ktoré ju vytvárajú, môžu byť zodpovedné za zločiny. S rýchlym rozšírením chatbotov a agentov založených na UI sa táto diskusia presunula do skutočného sveta,“ píše Gerrit De Vynk vo Washington Post.
Za posledný rok sa na súdoch USA a ďalších krajín nahromadilo množstvo súdnych sporov proti spoločnostiam s UI. Tvrdia, že chatboty povzbudzovali ľudí, aby si ublížili, alebo radili, ako páchať trestné činy. Teraz, keď priemysel UI prechádza od predaja chatbotov k poskytovaniu agentov schopných dlhodobo autonómne vykonávať zložité úlohy, je otázka, kto by mal byť zodpovedný, keď sa niečo pokazí, čoraz dôležitejšia.
Línie konfrontácie
Vytvárajú sa línie konfrontácie. Rodiny ľudí, ktorí spáchali samovraždu po dlhých a zdĺhavých rozhovoroch s chatbotmi, tvrdia, že spoločnosti by mali byť zodpovedné. Vedci UI, znepokojení nebezpečenstvom hypotetických superinteligentných systémov UI, ktoré idú nad rámec ľudskej kontroly, tvrdia, že prísnejšie pravidlá zodpovednosti prinútia spoločnosti spomaliť vývoj tejto technológie.
Vedúci spoločností zaoberajúcich sa UI namietajú a tvrdia, že neustále pracujú na zlepšovaní bezpečnosti svojich systémov a že povaha modernej UI im nie vždy umožňuje zabrániť chatbotom v manipulácii, aby robili veci, ktoré by nemali robiť.
„Je to veľmi zložitá oblasť. Toto je nezmapované územie,“ uviedol Andrew Yun, člen technického personálu CivAI, neziskovej organizácie, ktorá analyzuje schopnosti UI a potenciálne riziká spojené s touto technológiou. „Existujú silné argumenty pre a proti.“
Stávky sú vysoké
Stovky miliónov ľudí na celom svete už používajú chatboty UI vo svojom každodennom živote. Mnohí z nich sa obracajú na boty so žiadosťou o radu v oblasti zdravia alebo osobných vzťahov.
Chatboty už ale momentálne nie sú pre Silicon Valley prvoradé. Teraz sa zameriava na vytváranie sofistikovaných agentov, ktorí sa dajú použiť na čokoľvek. Od pomoci rodičom organizovať plány domácnosti až po implementáciu finančnej stratégie investičnej banky. Technológia UI preniká hlbšie do ekonomiky a spoločnosti ako celku.
Spoločnosti UI ako OpenAI a Anthropic rýchlo rastú, pretože spoločnosti a spotrebitelia sa snažia využívať ich technológie. Obe plánujú počiatočnú verejnú ponuku akcií v hodnote biliónov dolárov. Nové pravidlá zodpovednosti alebo nárast drahých súdnych rozhodnutí by mohli ohroziť obchodný potenciál celého odvetvia. Lobisti v technologickom priemysle tvrdia, že prísna zodpovednosť spoločností za UI sťaží alebo znemožní americkým spoločnostiam inovovať a spomalí súperenie krajiny s Čínou o technologickú nadvládu.
Pravidlá možno obísť
Situáciu komplikuje pôvodne nepredvídateľná povaha moderných systémov UI. Na rozdiel od tradičného softvéru, ktorý je kódovaný riadok po riadku podľa určitých pravidiel, modely UI sú pravdepodobnostné a odpovedajú na otázky založené na pripojeniach vytvorených pri spracovaní obrovského množstva údajov.
Za posledných pár rokov spoločnosti zaoberajúce sa UI výrazne zlepšili svoje zručnosti v oblasti správy botov tým, že sa vyhýbali urážlivým a škodlivým reakciám. Ale vytrvalí používatelia ich stále môžu oklamať, aby obchádzali zavedené pravidlá.
„Nemyslím si, že vývojár môže presne vedieť, ako sa ich produkt používa,“ uviedol v podcaste Politico David Sacks, rizikový podnikateľ, ktorý bol donedávna jedným z hlavných poradcov Bieleho domu pre otázky UI. Podľa neho rovnako ako spoločnosť Microsoft nie je zodpovedná za pranie špinavých peňazí pomocou tabuľky Excel, spoločnosti UI by nemali byť zodpovedné, keď zločinec používa ich technológiu.
UI nie je obyčajný produkt
Po celé desaťročia boli technologické spoločnosti chránené pred zodpovednosťou za slová a činy používateľov svojich platforiem vďaka článku 230. Zakladajúcemu zákonu o internete prijatému v roku 1996. Kritici spoločností UI však tvrdia, že moderné technológie sú zásadne odlišné. Chatboty a ďalšie nástroje UI sú interaktívne. Komunikujú s používateľmi a vyjadrujú svoj vlastný názor.
„Je to úplne nová situácia,” povedal Jay Edelson, skúsený právnik, ktorý zastupuje niekoľko rodín, ktoré podali žaloby o náhradu škody v súvislosti s úmrtiami na základe komunikácie s UI. Ide napríklad o rodinu Adama Raina. Iba 16ročného tínedžera z Južnej Kalifornie, ktorý spáchal samovraždu. Predtým niekoľko týždňov celé hodiny každý deň chatoval o samovražde s ChatGPT.
V reakcii na súdny spor rodiny Rainovcov OpenAI uviedla, že tínedžer obišiel ochranné systémy ChatGPT. Bot ho následne vyzval, aby za päť mesiacov zavolal na samovražednú horúcu linku 74-krát.
V inom prípade, na ktorom Edelson pracuje, spáchal 36ročný obyvateľ Floridy Jonathan Gavalas samovraždu po tom, čo sa romanticky zaplietol s Google chatbotom Gemini. Žalobu podal jeho otec. „Je to úplne iné, pretože išlo o pocit osobného vzťahu, zatiaľ čo chatbot má tendenciu izolovať používateľa,“ povedal Edelson.
Zástupca spoločnosti Google sa odvolal na vyhlásenie spoločnosti v súvislosti s prípadom Gavalas. „V prípade Gemini objasnil, že práve UI opakovane odkazovala osobu na krízovú horúcu linku,“ uviedla spoločnosť vo vyhlásení.
Doteraz sa žiadny z týchto prípadov nedostal pred súd, ale poroty v Kalifornii a Novom Mexiku nedávno preukázali svoju ochotu brať technologické spoločnosti na zodpovednosť za škody nesúvisiace s UI. Ako je závislosť od sociálnych médií.
Floridský generálny prokurátor
Všetky súdne spory podané proti spoločnostiam s UI majú zatiaľ občiansky charakter. Lenže v apríli generálny prokurátor na Floride oznámil začatie trestného vyšetrovania OpenAI s tvrdením, že ChatGPT informoval muža obvineného zo zabitia dvoch ľudí pri streľbe na Floridskej štátnej univerzite v roku 2025 o tom, kde a kedy udrieť. „Keby bol na druhej strane obrazovky človek, obvinili by sme ho z vraždy,“ uviedol vtedy generálny prokurátor James Uthmeier.
Drew Pusateri, zástupca OpenAI, uviedol, že spoločnosť spolupracuje s úradmi v prípade streľby.
„Minuloročná masová streľba na Floridskej štátnej univerzite bola tragédiou, ale ChatGPT nie je zodpovedný za tento hrozný zločin. V tomto prípade ChatGPT poskytol faktické odpovede na otázky pomocou informácií, ktoré možno nájsť vo verejne dostupných zdrojoch na internete. Nepodporoval ani nepropagoval nezákonné alebo škodlivé konanie,“ povedal Pusateri.
„Ak žalobcovia môžu skutočne dokázať, že chatboti sa dopustili činov, ktoré by boli nezákonné, ak by ich spáchal človek, sudcovia budú mať záujem o to, aby spoločnosti boli tak či onak zodpovedné,“ uviedol Gabriel Weil, vedúci výskumný pracovník Inštitútu práva a UI. Ide o think tank, ktorý študuje právne dôsledky UI.
Existujúce právne predpisy o zodpovednosti za kvalitu výrobkov môžu byť jedným zo spôsobov, ako sa právnici pokúsia brať spoločnosti UI na zodpovednosť za škodu spôsobenú ich nástrojmi.
Kto je teda zodpovedný
Podľa Weila však existujúce právne predpisy nemusia stačiť na riešenie potenciálnych problémov, ktoré môžu vzniknúť. UI sa totiž stáva sofistikovanejšou a nezávislejšou.
Napríklad, ak vlastník firmy dá pokyn agentovi UI, aby zvýšil zisky jeho spoločnosti a bot sa dopustí podvodu, mal by byť zodpovedný vlastník firmy, ktorý ho „najal“, alebo spoločnosť, ktorá ho pôvodne vyvinula a vyškolila?
Podľa Weila je jednou z ťažkostí pri vypracúvaní právnych predpisov o zodpovednosti za používanie UI to, že ľudia, ktorí si najviac uvedomujú riziká spojené s touto technológiou, pracujú v samotných spoločnostiach. Navrhuje prijať zákony, ktoré jasne definujú, že konečnú zodpovednosť za používanie UI nesú vývojári technológie.
