Hledejte na tadesco.org
Archiv
Nejnovější zprávy
Související zprávy
Facebook byl nucen vypnout dva roboty, začali spolu komunikovat novým jazykem
Facebook musel vypnout dva vyhledávací roboty poté, co se vyvinuli z experimentu v umělou inteligenci a začali spolu komunikovat svým vlastním jazykem.
[wp_ad_camp_1]
Vědci se domnívají, že takový výsledek experimentu se dal očekávat, včetně vytvoření nového jazyka.
Jiní, jako Elon Musk věří, že umělá inteligence představuje pro lidstvo tu největší hrozbu a proto musí být aktivně regulována již teď, nikoli v budoucnu.
Pouze čas prozradí, jestli je umělá inteligence dobrá, nebo ne. Prozatím jsou roboti jako je Terminátor hudbou budoucnosti.
Výzkumní pracovníci z FAIR vyvinuli dva tzv. chatboty, jejichž určením je replikovat způsob, jakým lidé směňují a obchodují. Tito roboti měli obchodovat s míči, klobouky a knihami, přiřadit těmto objektům hodnotu a poté mezi sebou s těmito předměty obchodovat. Pomocí algoritmů pro strojové učení byli chatboti, jinak známí jako dialogoví agenti, naprogramováni tak, aby během obchodování využívali lidskou řeč. Brzy se však ukázalo, že chatboti se od normální řeči odchýlili a místo ní si umělá inteligence vytvořila svůj vlastní jazyk. To, co některé nejvíce viděsilo byl fakt, že se tak stalo bez zásahu výzkumníků z FAIR. Zde je příklad konverzace chatbotů:
[wp_ad_camp_1]
Tohle stačilo k tomu, aby slušný počet lidí zpanikařil. Strach se zdá být poháněn vědomím, že vnímavá umělý inteligence představuje pro lidstvo vážnou hrozbu. Dokonce i Elon Musk rozpoznal tuto potencionální hrozbu, kterou systém pokročilé umělé inteligence může pro lidstvo být. Musk je tímto nebezpečím tak znepokojen, že se regulérně zasazuje o zavedení přísné regulace v oblasti umělé inteligence. Navzdory tomu všemu je jasné, že stvoření robotů zotročujících lidstvo výzkumem ve FAIR je v blízké době nepravděpodobné.
Jak vysvětlil Dhruv Batra, výzkumník umělé inteligence Facebooku:
Agenti umělé inteligence vytvářející svůj vlastní jazyk jsou dobře zavedenými sub-poli výzkumu umělé inteligence. Co se stalo s chatboty není na tomto poli nic neobvyklého, takže vážně není důvod k panice. Jazyk, který vytvořili chatboti, lze považovat za formu zkratek.
Batra pokračuje:
Pokud řeknu „pětkrát“, chápete to tak, že chci pět kopií oné položky. Není to tak odlišné od způsobu, jakým komunity lidí vytvářejí zkratky.
[wp_ad_camp_1]
Takže, i když je jasné, že široká veřejnost zcela určitě na experiment ve FAIR reagovala přehnaně, tento debakl vznesl mnohem závažnější otázku, které se mnozí zřejmě obávají. Je vývoj umělé inteligence pro lidstvo nezbytně dobrou věcí? Nikdo si není jistý, kam nás vývoj umělé inteligence zavede a pro některé je to děsivá vyhlídka zábavy. Otázka je, budeme muset zajistit, že jsou systémy umělé inteligence dobře regulovány, aby se předešlo něčemu, co by mohlo připomínat Skynet apokalypsu? Na takové otázky dokáže odpovědět pouze čas.
přeložila: raja
zdroj: 1
Pravidla diskuze
Diskuze je pouze pro registrované čtenáře a je moderovaná. Budou uveřejněny jen takové komentáře, které nejsou urážlivé, vulgární, neobsahují reklamu, neobsahují projevy náboženského fanatismu, návody k násilí, pseudo-ezoterické bludy a jsou k tématu.
Není dovoleno vkládat celé články z jiných webů a strojové překlady z cizích jazyků, stejně tak psát celé věty kapitálkami.
Komentáře není dovoleno využívat jako chat a místo pro osobní spory.
Veškeré URL odkazy v komentářích musí být uvedeny s krátkým popisem, čeho se video týká a o čem pojednává. Odkazy bez popisu jsou považovány za spam.
Komentáře jsou automaticky posuzovány antispamovým systémem, a pokud jsou zadrženy, musí je posoudit administrátor, což může trvat až 25 hodin. Opětovné odeslání komentáře nebo psaní stížnosti prostřednictvím e-mailu nic neurychlí.
Předem děkujeme za respektování těchto pravidel.
Já se jim nedivím, tu novinu si prostě museli vyříkat, jinak by jim praskli kebule. Lidi jsou totální kreténi, ale ne jen ti z Kréty. Roboti udělají to , co se jim naprogramuje, jako člověku do podvědomí. Kdyby měli přístup k informacím o hospodaření s energiemi o spalovacích motorech a elektromotorech , včetně hospodárnosti výroby, údržby a životnosti a to , že na x-krát už byly baterie vymyšleny lepší, než současné olověné, které jsou furt a furt, tak co by řekli?!
Že by lidstvo mělo přestat existovat, protože je záměrně neekologické. A to máme ale naprosto v souladu s tím , co říká sama příroda. Já bych se umělé inteligence nebál, ale bojim se, když už, těch pitomců okolo ní.
Jedna blondýna se mě během řeči zeptala jestli jsem rasista, řekl jsem , že ne , že se mi zdravě štíhlá atraktivní černoška líbí, a že ji naprosto chápu, že se ji líbí černoši…. Jinak podáno a všechno najednou chápala.
UI kdyby začala šířit svou pravdu, mohla by být vážně prča. Jenže pravda tady nikdy nebyla in.
Tak zrovna takto to v těch filmech začíná 😀 Vědci: „Není třeba panikařit, o nic nejde…“ A pak je lidstvo na pokraji vyhynutí 🙂
Jojo, myslím si, že když už se poznali – ti chattboti, tak je se třeba obávat. Strach sice nemám ráda, ale kam to spěje??
Na příklad ten experiment, který po pár hodinách, nebo po dni museli vypnout, protože ta UI začala být agresivní. Lidé se jí měli ptát na různé otázky a ona pak řekla, že lidé by neměli existovat, že jsou všichni rasisté.
Tak tady to máte, milý vědátoři…
Jenom by mě zajímalo, pokud by to fakt „vypuklo“ a UI ovládla svět – což by dle mého názoru netrvalo dlouho – zdali by se těmto lidem, těmto inteligentním bytostem (vědátorům) hnulo někde svědomí.