Iniciativa pro bezpečnost AI

Kontrola nad AI musí zůstat v lidských rukou

Umělá inteligence přináší mimořádné příležitosti. Zároveň ale i bezprecedentní rizika. Nezávoďme v tom, kdo jako první vytvoří systémy, nad nimiž ztratíme kontrolu. Spolu s dalšími organizacemi chceme proto zabránit vzniku nekontrolovatelné umělé superinteligence. A máme plán, jak na to.

O budoucnosti musí rozhodovat lidé.

Přečtěte si náš plán Spojte se s námi

Posuňte dolů

Proč právě teď

Závod ke dnu

AI se rychle posouvá k autonomnějším a obecnějším schopnostem. Pokud vznikne umělá superinteligence dřív, než bude bezpečná a pod kontrolou, může pro lidstvo představovat existenční riziko. Upozorňují na něj zakladatelé oboru, OSN, nobelisté, výzkumníci i samotné laboratoře, které AI vyvíjejí. I nejšpičkovější odborníci odhadují, že riziko vyhynutí lidstva kvůli superinteligenci je minimálně 10 %. A takto vysoké riziko globální katastrofy je zcela nepřijatelné.

Přestože mnozí varují před vznikem superinteligence, vývoj AI k nesmírně schopným systémům velmi rychle spěje. Všichni jsou totiž chyceni v neúprosném technologickém i geopolitickém závodě, z nějž nelze jednostranně vystoupit. Pomoci může jen vymahatelná mezinárodní dohoda, která závod ke dnu zastaví.

Je třeba jednat dříve, než bude pozdě.

Více k tématu →

Náš cíl

Mezinárodní dohoda zajistí, aby lidé nadále kontrolovali AI

Pouze mezinárodní vymahatelná dohoda zabrání bezprecedentnímu ohrožení lidstva ze strany umělé superinteligence. USA, Čína i další hráči musí společně předejít vzniku pokročilých AI systémů, které by se vymkly lidské kontrole.

Vývoj globální technologie vyžaduje globální pravidla.

Česká Republika ani Evropa nehraje ve vývoji AI klíčovou roli. Může nicméně ke vzniku mezinárodní dohody výrazně přispět. Právě o to se snažíme!

Tváří v tvář globálním hrozbám se lidstvo už dokázalo v minulosti sjednotit. Chceme na tyto úspěchy navázat.

Více k tématu →

1968Smlouva o nešíření jaderných zbraní

1987Montrealský protokol o látkách poškozujících ozonovou vrstvu

2015Pařížská klimatická dohoda

2029Úmluva o umělé superinteligenci — náš cíl

Co děláme

IBAI je česká iniciativa s evropskou ambicí

K mezinárodní dohodě musí dospět hlavní geopolitičtí aktéři, především tedy USA a Čína. Nicméně iniciativa z České republiky může k uzavření dohody pomoct. Jak?

Věříme, že k uzavření dohody je třeba jak vůle politických elit, tak silný zájem občanů. Naše iniciativa bude informovat klíčové evropské stakeholdery o existenčních rizicích AI a zároveň představí toto téma české i evropské veřejnosti. Spolu s našimi partnery z dalších evropských zemí:

Spustíme evropskou občanskou iniciativu (ECI), pro kterou získáme 1 milion podpisů
Informujeme české i evropské politické představitele o rizicích umělé superinteligence

Naše aktivity posunou jednotlivé evropské státy i EU k tomu, aby se staly partnery pro uzavření mezinárodní dohody. Mezinárodní dohoda bude blíže k uzavření, pokud na ni Evropa bude připravena.

Vytváříme a podporujeme síť evropských organizací, které informují veřejnost i politiky o existenčních rizicích AI.

Více o tom, co děláme →

Kdo jsme

Čtyři odbornosti. Jeden společný cíl.

Bezpečnost AI nelze řešit z jedné úzké perspektivy. Spojujeme odborníky na rizika umělé inteligence, vývoj moderních technologií, kampaně, komunikaci i prosazování změn ve veřejné politice. Jsme iniciativa založená na odbornosti, otevřené spolupráci a respektu k vědeckým poznatkům.

Ondřej Krása

Rizika AI

Vedoucí Katedry filosofie a religionistiky Univerzity Pardubice. Rizikům AI se věnuje odborně i popularizačně.

Amálie Kovářová

Kampaně a komunikace

Autorka virálních kampaní pro Milion chvilek a Paměť národa; dlouhodobě komunikuje vědu pro Akademii věd.

Tamara Kováčová

Advokacie

Advokační expertka s více než desetiletou praxí.

Martin Vraný

Technologie

Datový vědec a vývojář AI agentních systémů.

Více o nás →