Mert racionális. Velünk, emberekkel, e bolygó uralkodóival ellentétben. Hogy miért veszélyes ez a dolog, azzal számtalan sci-fi író foglalkozott Asimovtól a modern hollywood-i írókig. És könnyen rávilágít az a bevett közgazdasági módszer is, hogy bármilyen számításból először is kiveszik a bizonytalanságot, az irracionalitást: azaz az embert.
Mert egészen egyszerűen ha az emberi elme is része a képletnek, egyetlen közgazdasági modell sem működik. Mert az isten barma hiába látja és tudja, hogy például a Samsung okostelefonja olcsóbb és technikai specifikációiban is jobb mondjuk a kurrens iPhone-nál, akkor is meg fogja venni az iPhone-t, erőforrásait messze meghaladva persze, és még talán boldog is lesz vele. Nincs józanság az emberekben, és ez élteti a kapitalizmust.
Amennyiben beszabadulna közénk a mesterséges intelligencia, azért lennénk bajban, mert pillanatok alatt - számítások millióit elvégezve ezalatt akár - megmondaná a választ. Ami vagy tetszik nekünk, vagy nem. De fellebezésnek helye nem volna. Abortusz, halálbüntetés, drogfogyasztás, csalás, melegházasság, háborúk, vagy amit akartok. Mindenre volna gyors és logikus válasz, csakhogy ez nem feltétlenül tetszene mindenkinek. Talán senkinek sem tetszene. Az ember filozófiája ugyanis másról sem szól, mint a relativizálásról, a mi "volna ha" szituációkról, és a felmentéskeresésről. A legtöbb ősi törvény általában röviden és tömören foglalta össze a helyes cselekvés formáit. Persze, kevesebb ügyet is kellett számba venniük, nem lévén interkontinentális gazdaságpolitika, meg génmódosított kukorica. Ugyanakkor más oka is volt. A rövid és tömör mondatokba nehezebb belekötni, nehezebb belemagyrázni a "de ha" faktort.
Vegyünk egy példát: "Ne ölj!"
Na, háború kilőve, abortusz kilőve, eutanázia kilőve, halálbüntetés kilőve...
A kérdés persze az, lennének-e, és ha igen mik lennének az alapvető paraméterei egy ilyen mesterséges elmének. És felül tudná-e írni azokat? (gondoljunk csak az Asimov féle robotikai alaptörvényekre).
Kiindulva világunk jelenlegi technikai fejlettségéből, gazdaságpolitikánk irányából, alapvető gondolkodásmódunkból, egy mesterséges intelligencia létrehozása esetén bizony jó eséllyel az hamar elterjedne az egész világon, borzasztó gyorsan és elképesztő mértékű információval találkozna, és rengeteg lehetőséggel bírna. Igen, elképzelhető, hogy átvenné az irányítást az informatikától függő rendszereink felett, és bizony egészen biztos, hogy másképp értékelne dolgokat, mint a többségünk. A kérdés valóban csak az, hogy mik volnának egy ilyen mesterséges elme alapvetései, és mik lennének a céljai. A legijesztőbb valószínűleg az, hogy ha öntudatra ébredne egy ilyen intelligencia, minden valószínűség szerint nem tudna mit kezdeni az élet és halál gondolatával, így a "ne ölj" parancs sem igen létezne számára...
