AI zahubí lidstvo, ale jinak než si představujete

Obavy z umělé inteligence (AI) plní stránky sci-fi žánru už desítky let. Představa, že nás stroje zotročí či následně vyhubí děsí nejednoho z nás. Dle odborníků je už dnes AI ve stavu, kdy by mohla zničit celé lidstvo a to i přes to, že ke skutečné inteligenci má ještě daleko. Jak je to možné?

Umělá inteligence pro každého

ChatGPT a další AI modely se během posledních dvou let staly součástí téměř každého z nás a denně tyto nástroje strojového učení využíváme, aby nám ulehčila rutinní práci. Vědci z Los Alamos zkoumali, jak lze jazykové modely využít pro inovace v biologickém výzkumu. Už v roce 2023 se ukázalo, že ChatGPT je schopen navrhnout protilátky proti viru SARS-CoV-2, proti kterému jsme roky bojovali, nebo dokonce dokáže navrhnout kódy pro laboratorní roboty.

AI ve výzkumu

Na Carnegie Mellon University a ve virtuální laboratoři na Stanfordu, se vědcům povedlo vytvořit projekt, ve kterém si AI navrhovala vlastní vědecký výzkum, v rámci něhož dokázala navrhovat protilátky, složité chemické syntézy a další a to za minimálního zapojení člověka.

Ukazuje se tak, že i současná veřejně dostupná AI je schopna navrhovat úpravy v genomu organismů tak, aby se dala využít k tvorbě biologických zbraní - úprava virů, bakterií, či tvorbě syntetických mikroorganismů. Současně AI umí navrhovat úpravy v DNA mikroorganismů tak, aby zdolala imunitní systém člověka.

Státní dohled nad vývojem umělé inteligence?

Vědci pod vedením Jaspreet Pannu z Los Alamos tak apelují na nutnost úzké spolupráce mezi firmami a státy. Žádají pečlivou kontrolu nad tím, že AI nebude moct být zneužita k těmto účelům. Nicméně to by vyžadovalo, aby nad firmami dohlíželi Ti největší specialisti na vývoj AI. Ti jsou však nyní zaměstnáni právě ve firmách, které se jejím vývojem zabývají.

Nicméně USA a Velká Británie jsou příkladem a ve státní správě již tyto odborníky mají. Nicméně je třeba myslet na to, že je třeba těmto lidem vytvořit adekvátní platové a technické podmínky, aby měli důvod změnit svou pozici. Což nebude levnou záležitostí, když vezmeme v potaz ekonomické příjmy z AI. Avšak může to zachránit mnoho životů.

Otázkou zůstává, jak se k situaci postaví další vlády, protože nic jako světovou vládu, která by na vše dohlížela nemáme. Případné vypuštěné viry v jednom z nekontrolovaných států by pak mohly zasáhnout celý svět.

Hrozí zákaz AI?

Dle Jaspreet Pannu není cesta v zákazu rozvoje AI, protože nám může pomoci vyvíjet nové vakcíny, metody výzkumu, přicházet s novými látkami apod. Může tedy mít pro lidstvo obrovský přínos. Nicméně je třeba regulovat dohled nad užíváním AI a zamezit jejímu zneužití pro tvorbu potenciálně nebezpečných biologických zbraní, které by mohly způsobit další světové pandemie a ohrozit fungování či existenci lidstva.