Hogyan taníts meg egy robotot a rossztól? Meseidő.

Hogyan taníts meg egy robotot a rossztól? Meseidő.

Robot olvasás , a Shutterstocktól

Ez a cikk egy Science Friday interjún alapul, és eredetileg az volt közzétett a PRI.org oldalon.

A robotok, amint Mark Riedl elmagyarázza, nagyjából mindegyiknek van szociopata hajlama.



– Ezek biztonságban lesznek? Riedl, az atlantai Georgia Institute of Technology számítástechnikai professzora megkérdezi: „Képesek lesznek ártani nekünk? És nem csak a fizikai károsodásra vagy a fizikai erőszakra gondolok, hanem a társadalmi harmóniák megzavarására, úgy, hogy… egy vonalba kerülünk, vagy megsértenek minket.”

Riedl szerint nem annyira arról van szó, hogy a robotok szándékosan durvák. Csak arról van szó, hogy „szuperoptimalizálni” próbálnak. De ha a robotok kezdenek a mindennapjaink részévé válni, vajon meg lehet-e tanítani őket viselkedni?

„Meg akartuk tanítani az ügynököket a társadalmi konvenciókra, a társadalmi normákra, amelyek mellett mindannyian felnőttünk” – mondja Riedl. „A történetek nagyszerű módja, nagyszerű médiuma a társadalmi értékek közlésének. Azok az emberek, akik történeteket írnak és mesélnek, nem tehetnek mást, mint hogy meghonosítsák… azokat az értékeket, amelyeket dédelgetünk, a birtokunkban lévő értékeket, azokat az értékeket, amelyeket látni szeretnénk a jó, előkelő polgárokban.”

Riedl és csapata nagyon egyszerű oktatási történetek elmesélésével kísérleteztek robotoknak. Jelenleg egy robotot próbálnak megtanítani arra, hogyan menjen el a boltba, és vegye fel a vényköteles gyógyszert.

„Még mindig egy egyszerűbb szakasznál tartunk” – mondja Riedl. „A természetes nyelv feldolgozása nagyon nehéz. A történet megértése nehéz abból a szempontból, hogy kitaláljuk, mik az erkölcsök, mik az értékek, és hogyan nyilvánulnak meg. A történetmesélés valójában egy nagyon bonyolult dolog.”

Végül azonban Riedl reméli, hogy teljes történetkönyvtárat lehet adni a robotoknak.

„Elképzeljük, hogy történetek egész sorozatát tápláljuk be a számítógépbe, amelyeket egy egész kultúra vagy egy egész társadalom hozott létre, és ráfordítjuk az értékeket. Tehát ez lehet minden a tévében látott történetekből, a filmekből, az olvasott könyvekből. Valóban olyan népszerű fikció, amit látunk” – mondja Riedl.

Nem aggódik amiatt, hogy a robotok meg tudják határozni, mi a jó és mi a helytelen egy történetben – hogy jobb-e egy történet hősies alakja vagy egy antihős oldalára állni.

„A mesterséges intelligencia igazán jó abban, hogy kiválasztja a legelterjedtebb jeleket” – mondja Riedl. „Tehát azok a dolgok, amiket újra és újra és újra lát… azok a dolgok, amelyek fel fognak emelkedni és feltörnek a csúcsra. És általában ezek azok az értékek, amelyeket a kultúra és a társadalom nagyra tart. Tehát annak ellenére, hogy látunk… antihősöket, ez még mindig az egész társadalmunk által kiadott dolgok túlnyomó része.”