Facebook musel vypnout dva vyhledávací roboty poté, co se vyvinuli z experimentu v umělou inteligenci a začali spolu komunikovat svým vlastním jazykem.

Vědci se domnívají, že takový výsledek experimentu se dal očekávat, včetně vytvoření nového jazyka.

Jiní, jako Elon Musk věří, že umělá inteligence představuje pro lidstvo tu největší hrozbu a proto musí být aktivně regulována již teď, nikoli v budoucnu.

Pouze čas prozradí, jestli je umělá inteligence dobrá, nebo ne. Prozatím jsou roboti jako je Terminátor hudbou budoucnosti.

Výzkumní pracovníci z FAIR vyvinuli dva tzv. chatboty, jejichž určením je replikovat způsob, jakým lidé směňují a obchodují. Tito roboti měli obchodovat s míči, klobouky a knihami, přiřadit těmto objektům hodnotu a poté mezi sebou s těmito předměty obchodovat. Pomocí algoritmů pro strojové učení byli chatboti, jinak známí jako dialogoví agenti, naprogramováni tak, aby během obchodování využívali lidskou řeč. Brzy se však ukázalo, že chatboti se od normální řeči odchýlili a místo ní si umělá inteligence vytvořila svůj vlastní jazyk. To, co některé nejvíce viděsilo byl fakt, že se tak stalo bez zásahu výzkumníků z FAIR. Zde je příklad konverzace chatbotů:

Facebook

Tohle stačilo k tomu, aby slušný počet lidí zpanikařil. Strach se zdá být poháněn vědomím, že vnímavá umělý inteligence představuje pro lidstvo vážnou hrozbu. Dokonce i Elon Musk rozpoznal tuto potencionální hrozbu, kterou systém pokročilé umělé inteligence může pro lidstvo být. Musk je tímto nebezpečím tak znepokojen, že se regulérně zasazuje o zavedení přísné regulace v oblasti umělé inteligence. Navzdory tomu všemu je jasné, že stvoření robotů zotročujících lidstvo výzkumem ve FAIR je v blízké době nepravděpodobné.

Jak vysvětlil Dhruv Batra, výzkumník umělé inteligence Facebooku:

Agenti umělé inteligence vytvářející svůj vlastní jazyk jsou dobře zavedenými sub-poli výzkumu umělé inteligence. Co se stalo s chatboty není na tomto poli nic neobvyklého, takže vážně není důvod k panice. Jazyk, který vytvořili chatboti, lze považovat za formu zkratek.

Batra pokračuje:

Pokud řeknu „pětkrát“, chápete to tak, že chci pět kopií oné položky. Není to tak odlišné od způsobu, jakým komunity lidí vytvářejí zkratky.

Takže, i když je jasné, že široká veřejnost zcela určitě na experiment ve FAIR reagovala přehnaně, tento debakl vznesl mnohem závažnější otázku, které se mnozí zřejmě obávají. Je vývoj umělé inteligence pro lidstvo nezbytně dobrou věcí? Nikdo si není jistý, kam nás vývoj umělé inteligence zavede a pro některé je to děsivá vyhlídka zábavy. Otázka je, budeme muset zajistit, že jsou systémy umělé inteligence dobře regulovány, aby se předešlo něčemu, co by mohlo připomínat Skynet apokalypsu? Na takové otázky dokáže odpovědět pouze čas.

 

přeložila: raja

zdroj: 1

Loading...
Líbí se vám článek? Můžete ho sdílet se svými přáteli.