Bebizonyították: Tényleg befellegzett nekünk, ha sikerül megalkotnunk egy valódi mesterséges intelligenciát

Meglehetősen elszomorító eredményről számolt be a napokban egy nemzetközi tudóscsoport, ami egy elemzés keretében megállapította: valóban nagyon rossz napoknak néz elébe az emberiség, ha sikerül megalkotnia egy nála magasabb szintű, ún. erős mesterséges intelligenciát.

Konklúziójuk szerint ugyanis azt lehetetlen lesz kordában tartani – sőt, még arra sem tudjuk majd rávenni, hogy legalább biztosan ne ártson nekünk.

A hat különböző, többek között a számítástechnikatudomány, a szociológia, valamint az oktatás terén tevékeny egyetemi oktató és kutató által jegyzett dolgozat sorra veszi azokat a módszereket, amikről eddig azt gondoltuk, hogy segíthetnek majd a mesterséges intelligenciák feletti ellenőrzés megtartásában. Ezek között van pl. azok tevékenységének megfigyelése, valamilyen módon történő korlátozása, de az is, hogy megpróbáljuk őket valamilyen etikus vagy legalábbis az emberiségnek történő ártást kizáró szabályok betartására rávenni vagy kényszeríteni.

A kutatók azonban mindegyik szóba jöhető módszerről megállapítják, hogy ezek valójában nem lehetnek alkalmasak a szóban forgó kontroll biztosítására, már pusztán matematikai okoknál fogva sem. Például, mert egy embernél okosabb intelligencia működését és motivációit az alacsonyabb rendű intelligenciával rendelkező emberek nem érthetik meg, vagy mert matematikailag kizárt az olyan módszerek létezése, amikkel pl. egy szimuláció vagy emuláció keretében előre meg lehetne vizsgálni az adott intelligencia működését.

Elemzésük szerint hasonló okokból hamis elképzelés az is, hogy a mesterséges intelligenciának majd valamiféle morált taníthatunk vagy Asimov robotikai törvényeihez hasonló szabályokkal zárhatjuk ki azt, hogy ártsanak nekünk. Azokkal a módszerekkel pedig, amikkel mégis hatékonyan tudnánk korlátozni az adott MI fejlődését és tevékenységét (pl. teljes leválasztásával minden hálózatról) pedig olyan mértékben korlátoznánk annak képességeit is, hogy értelmetlen lenne megalkotása és alkalmazása – hiszen még annyit sem tudna megtenni és elérni, mint egy ember.

Az egyetlen jó hír a dolgozat konklúziójának tükrében az, hogy jelenleg nem tűnik úgy, hogy belátható időn belül képesek lennénk majd egy valóban intelligens, az embernél magasabb szintet képviselő – vagy akár csak azt megközelítő – mesterséges intelligenciát alkotnunk. Ugyanakkor a kutatók felhívják arra is a figyelmet, hogy amennyiben ez mégis sikerül, lehet, hogy nem fogjuk ezt észrevenni – csak akkor, amikor már késő.

Forrás: pcforum.hu