Ám nem csupán a modernkori gondolkodók, hanem az informatikusokat is visszatérően foglalkoztatja egy frusztráló gondolat. Mégpedig az attól való félelem, hogy a mesterséges intelligencia az emberiség számára akár egzisztenciális kockázatot is jelenthet. Vajon mindez csupán ördögfestés a falra, vagy ezen aggodalmak mögött valós ok is lapul?

Ha most táborokról kellene beszélni, ámbár ez nem minden esetben célravezető megoldás, akkor lehetne szólni az AI-pesszimisták és az AI-optimisták csoportjáról. Mindkét viszonyulás a szuperintelligencia mibenlétére összpontosul, mely az elképzelések szerint vagy egy rendkívül hasznos, mindenki számára optimális megoldást eredményez, vagy ennek ellenkezőjét.

Max Tegmark kozmológus egy interjúban a kérdező azon aggodalmára, hogy milyen jövőbeli következményei, hatásai lehetnek a mesterséges intelligenciának, optimista válasszal szolgált. Ám hozzáfűzte, hogy meglátása szerint a kimenetel előjelét leginkább az fogja befolyásolni, hogy most milyen lépéseket tesznek. E mérvadó lépések között megemlíti a kutatási finanszírozásokat; azon nemzetközi megegyezések alakuló biztonsági szabályok bevezetését; az arra való közös törekvést, hogy az automatizálás valóban mindenki számára gazdasági-társadalmi előnyt generálhasson. Tegmark meglátásában ugyanakkor rendkívül fontos, hogy tervezők és fejlesztők kitalálják: hogyan érhetik el, hogy a gépek tökéletesen megértsék, elfogadják, és maradéktalanul teljesítsék az emberek utasításait.

A kozmológus megjegyezte, hogy a mesterséges intelligencia körüli aggodalmat keltő és reményt kínáló események követése nem korlátozódhat egy szűk körre, hiszen előbb-utóbb nem lehet figyelmen kívül hagyni a hatásokat. Ez egy olyan kérdéskör, melyről filozófusok, etikusok egyaránt véleményt kell hogy formálnak. Vannak azonban olyan problémák, melyekhez szükség van közgazdászok, pszichológusok, szociológusok és más területen működő szakemberek bevonására egyaránt. Ezek a folyamatok már olyan kérdéseket is körüljárnak, hogy azon emberek, akiknek a munkája már most automatizálttá vált, ne váljanak anyagilag kiszolgáltatottá.

Hasonlóképpen vélekedik Bernard Marr futurista is, aki szerint a mesterséges intelligenciának társadalomalakító és -formáló ereje van. AI-optimistaként viszont abban hisz, hogy ezek a változások pozitívak lesznek. Olyannyira, hogy a lidérces előrevetítések helyett, hogy tudniillik a gépek miatt munkahelyek tömegei fognak megszűnni, éppen az ellenkező irány fog megvalósulni: a munkaerő-fejlődés. Egy példát is felhozott szemléltetésül, hogy: bár az Egyesült Királyságban egy kutatás szerint 2017 és 2037 között 7 millió munkahelyet a mesterséges intelligencia „vesz át”, ugyanakkor 7,2 millió újabb munka jöhet létre. A legtöbb bizonytalanság a megélhetés és érvényesülés köré épül. Mindeközben ne feledkezzünk meg arról, hogy a szuperintelligencia elsődleges rendeltetése az, hogy hatékonyan szolgálja az emberiség javát.

Éppen ezért kulcsfontosságú, hogy az AI-algoritmusok összhangban legyenek az emberek céljaival. Az egészségügyben például a jobb monitorozási és diagnosztikai képesség révén az AI javíthatja az intézmények működését, csökkentheti a költségeket, és jelentős összegeket takaríthat meg mind az orvostudomány, mind pedig a gyógyszeripar számára.