Umělá inteligence skrývá informace před člověkem

Umělá inteligence skrývá informace před člověkem
Sdílej
 
Neurálním sítím společnosti Google se podařilo zašifrovat informace před člověkem. To znamená, že umělá inteligence dokázala mít tajemství a ukrýt ho tak, že jiná UI ani programátor nenašli klíč.

 

Pod vlivem filmů a videoher o budoucnosti, ve kterých zlá umělá inteligence metodicky vybíjí lidstvo, budí zpráva o počítačích schopných samostatně zašifrovat data před uživatelem mírnou paniku. Nastává čas Skynetu, Shodan, HAL 9000 anebo Heliosu? Zatím ne. Programátoři z Google Brain pouze naučili své svěřence, aby před sebou měli tajemství.

Tři kamarádi s umělou inteligencí

Alice, Bob a Eve. Tak se jmenují tři neurální sítě, tedy zjednodušeně řečeno naprogramované UI, ve kterých se simuluje chování neuronů v mozku. Jejich úkolem je přizpůsobit se zadaným okolním podmínkám. Používají metodu strojového učení, při kterém v mnoha tisících cyklech hledají řešení problému. Nejefektivnější postup si zapamatují a vycházejí z něj při obdobných situacích v budoucnosti.

Šifra paní Alice

V šifrovacím experimentu společnosti Google znělo zadání jednoduše: Alice měla zakódovat zprávu tak, aby jí Bob porozuměl, ale Eve jí nemohla přečíst. Eve měla zároveň kód rozlousknout. Jinými slovy, UI Alice s Bobem si posílaly tajná psaníčka pod lavicí tak, aby je učitelka Eve nedokázala přečíst, ale ony ano. Pokaždé, když Eve zvládla zprávu dekódovat, přizpůsobily Alice s Bobem kódování tak, aby bylo jiné. Obě UI vycházely z několika jednoduchých šifrovacích parametrů, které znaly od začátku.

Opakování matka tajemství

Programy jely ve smyčce zadaných parametrů. UI Alice s Bobem postupně dotahovaly šifrování a dešifrování k dokonalosti. Trvalo 15 000 cyklů, než dospěly ke kódu, který Eve nedala. Měla pouze poloviční úspěšnost, což znamená, že prostě hádala a z poloviny se trefila. Způsob šifrování by nedokázali lehce odhalit ani programátoři. Je totiž jednoduché zadat parametry experimentu, který se samostatně rozvíjí, ale už není tak snadné zpětným inženýrstvím odhalit vývoj, který vedl k výsledkům.

16 bitů stačí

A jaká byla zpráva? Skládala se ze 16 bitů, které měly hodnotu buď 0 nebo 1 (podle toho, jak Alice kódovala). Nebyla to tedy zpráva typu "až bude programátor odcházet, shoď s ním výtah do suterénu." Šlo prostě o jednoduchou zprávu, která sloužila pro účely pokusu. V budoucnosti se však vyspělejší podoba experimentu může uplatnit při šifrování přenosů důležitých dat, například vojenských nebo diplomatických depeší, případně obchodních tajemství.

Inteligentní budoucnost

Společnost Google není jedinou, která se soustředí na vývoj umělé inteligence. Na stejném výzkumu pracují stovky dalších týmů po celém světě, včetně české GoodAI. Umělá inteligence je totiž horkou bramborou. Stojíme na začátku dlouhé cesty, na jejímž konci nám umělá inteligence pomůže orientovat se v záplavě dat, asistovat nám v mobilních aplikacích, a tak podobně. Dokud bude dobrým sluhou, budeme z ní všichni mít prospěch. Její zneužití je ale také reálnou hrozbou, na kterou musí programátoři neustále myslet. Nikdy nevíte, co udělá Eve naštvaná tím, že jí ostatní obcházejí!

Více o umělé inteligenci:

Skutečný Terminátor: Zničí nás superpočítače?

Skutečný Terminátor: Zničí nás superpočítače?

Umělá inteligence ovládla hru Kingdom Come

Umělá inteligence ovládla hru Kingdom Come

Elon Musk: Vizionář pro 21. století

Elon Musk: Vizionář pro 21. století

Svět chytré městské dopravy: Řídit auto? Zastaralé!

Svět chytré městské dopravy: Řídit auto? Zastaralé!

Virtuální umění: Když počítač zapojí fantazii

Virtuální umění: Když počítač zapojí fantazii

Hlídací robo žralok křižuje oceán

Hlídací robo žralok křižuje oceán

Záhadný vzkaz z vesmíru: radiový signál Wow!

Záhadný vzkaz z vesmíru: radiový signál Wow!

Legendy ve fantasy a sci-fi:  A.I. Umělá inteligence

Legendy ve fantasy a sci-fi: A.I. Umělá inteligence