Robot az életünkben: féltenünk kell gyermekeinket?

Gyermek-robot interakció: Milyen aggályok merülnek fel a magánélettel és a jóléttel kapcsolatban, amikor a gyerekek robotokkal játszanak, használnak és tanulnak tőlük? Sok robotot úgy terveztek, hogy társadalmi szerepet töltsön be iskolákban, egészségügyi intézményekben és otthonokban. De az emberekkel való növekvő interakciójukkal együtt egy óriási probléma is felmerül: a robotokkal való visszaélés.

Bár a robotok bántalmazásának néhány nagy horderejű incidense felnőtteknek tulajdonítható, a gyerekek is hajlamosak a robotok bántalmazására. A robottal való bántalmazás a gyermek erkölcsi fejlődése ellen hathat azáltal, hogy az erények helyett a negatív viselkedésformákat alakítja ki, ezért a kutatók nem csak a viselkedés mögött meghúzódó okokat, hanem annak megelőzését is vizsgálják.

Például egy 2018 tavaszi konferencián a Naver Labs és a Seoul National University kutatói, amelyek mindegyike Dél-Koreában található, egy új játékot mutatott be, amelyet arra terveztek, hogy elriassza a gyerekeket a robotokkal való visszaélésektől. Shelly, a robotteknősbéka világít és „vidám” táncos mozdulatokat végez végtagjaival, ha finoman simogatják. De ha valaki túl erősen megüti a robotot, akkor visszahúzódik a pancéljába, és egy rövid időre “elalszik”.

A Shelly készítői arra számítanak, hogy a Shelly-hez hasonló robotok javíthatják a gyermek-robot interakciót különböző társadalmi kontextusokban. Vitathatatlan, hogy az olyan robotok, mint a Shelly, képesek bátorítani a proszociális viselkedést, és hozzájárulnak a gyermekek erkölcsi fejlődéséhez. A gyerekeknek szánt robotok tervezése egy új terület, és az ezekben a technológiákban rejlő potenciális előnyök mellett egyedi aggodalmakat is felvet a gyermek robothoz való ragaszkodása, a robot gyermek megtévesztésére való képessége és a gyermek magánélete miatt.

A kísérletek azt sugallják, hogy a gyerekek hasznot húzhatnak a játszótársnak vagy az olvasási vagy írási ismeretek oktatóinak tervezett robotokkal való interakciójukból. A technológia által közvetített játékok vagy más interakciók használata a tanulás megkönnyítésére a játék oktatási vagy terápiás célú felhasználásának hosszú hagyományának kiterjesztése.

Például a svájci École és a portugáliai Lisszaboni Egyetem kutatóinak egyik csoportja egy programozható humanoid robotot konfigurált úgy, hogy „rossz íróként” működjön, és segítsen a gyerekeknek javítani a kézírásukat a hibák kijavításával. A gyerekeknek elmondják, hogy a robotnak írásban kell kommunikálnia, hogy sikeresen teljesíthesse küldetését, ezért szüksége van a gyermek segítségére a jól formált betűk létrehozásához. A helyesírásra tanítva a gyerekeknek lehetőségük nyílik íráskészségük és önbizalmuk fejlesztésére.

Más robotokat, mint például a Charlie, a My Special Aflac Duck és a Huggable, úgy tervezték, hogy segítsenek a gyerekeknek az egészségügyi problémák kezelésében.
Ezen robotok mindegyike egyedi megközelítést alkalmaz, hogy segítse a gyerekeket megbirkózni körülményeikkel és kezelésükkel, beleértve a betegséggel járó magányt és elszigeteltséget.

Charlie-t tábori környezetben használták fel, hogy segítsenek a gyerekeknek megtanulni az 1-es típusú cukorbetegség sikeres önkezelését oktató játékok, dicséret és építő visszajelzések révén; Charlie is foglalkozik a gyerekek érzéseivel az állapotukkal való együttélésről.

A My Special Aflac Duck elsősorban a rákkezelés alatt álló gyermekek szórakoztatására és figyelmének elterelésére szolgál, de segít a betegeknek azonosítani és a rákkezelésre adott összetett érzelmi válaszokat is feldolgozni. A gyerekek úgy tehetnek, mintha gondoskodnának a My Special Aflac Duck-ról, vagy orvosi beavatkozásokat végeznének.

Annak ellenére, hogy az előzetes bizonyítékok szerint a gyermek-robot interakció különféle körülmények között előnyös lehet a gyermekek számára, sokan aggódnak az ilyen technológiák által okozott lehetséges problémák miatt, beleértve a gyermekek jólétét és magánéletét fenyegető kockázatokat.

Például a Huggable és a My Special Aflac Duck a kórházba került gyermekek vigasztalására szolgál. A gyermek azonban erősen kötődhet a robothoz, és ideges lehet, ha meghibásodik, ki kell cserélni, vagy nem lehet hazavinni, amikor a gyermek elhagyja a kórházat.

Ezzel kapcsolatos aggodalomra ad okot, hogy a gyerekek inkább a robotokkal szeretnek kapcsolatba lépni, mint szüleikkel, gondozóikkal vagy társaikkal, és ezért társadalmilag elszigetelődhetnek. További probléma, hogy maguk a szülők és a felnőtt gondozók is túlzottan támaszkodhatnak a robotokra, és nem tudják biztosítani a szükséges szintű gondoskodást és kényelmet.

Az egészségügyi ellátásra tervezett robotok még nem jelentettek problémákat a gyermekek magánéletét illetően, talán azért, mert szigorúbb adatvédelmi szabályok vonatkoznak rájuk, vagy mert az ilyen robotok nem vonzó célpontok a hackerek vagy a hirdetők számára.

Néhány, az otthonokban gyakran megtalálható robotjáték azonban aggályokat vet fel a gyermekek magánéletével kapcsolatban, köztük a Mattel Hello Barbie-ja és a Genesis My Friend Cayla babája. Ezeket a babákat eredetileg úgy tervezték, hogy megfigyeljék a környezetüket, és hozzáférjenek az Internethez, azért hogy könnyebben válaszolni tudjanak a gyermek kérdéseire.

Ez a kapacitás azonban lehetőséget teremt a személyes adatok otthoni vezeték nélküli hálózaton keresztüli gyűjtésére és elküldésére egy adott vállalatnak vagy más szervezeteknek, beleértve a bűnüldöző hivatalokat is. 2017 februárjában a My Friend Cayla-t illegális lehallgatóeszköznek minősítették, és betiltották Németországban.

A Hello Barbie esetében az információkat megosztották a ToyTalkkal, egy olyan céggel, amely a játék által gyűjtött adatokat elemzi a beszédfelismerő és beszédfeldolgozási technológiáinak karbantartása, fejlesztése, tesztelése vagy javítása érdekében.
Sok szülő azonban aggódik amiatt, hogy a ToyTalk hogyan használhatja fel az adatokat. A robotjáték LED-lámpával rendelkezik, amely tudatja a felhasználókkal, amikor rögzít.

Az adatok gyűjtésével, tárolásával és felhasználásával kapcsolatos egyértelmű szabályozások hiánya nyitva hagyja az ajtót a magánélet nem megfelelő védelmére, mint például a Cloud Pets esetében – amelynek adattárolási védelme olyan gyenge volt, hogy 2017-ben a hackerek hozzáférhettek több, mint 2 millió hangfelvételhez a gyerekek és szüleik közötti beszélgetésekről (a játékokat ezt követően kivonták a forgalomból).

Több érdekelt fél is figyelmeztetett a lehetséges negatív érzelmi hatásokra a robotokkal interakcióba lépő gyerekekre. A robot etikusok, mint például Amanda és Noel Sharkey, az angliai Sheffieldi Egyetemről a megtévesztést, az érzelmi kötődéseket, az elszigeteltséget és a magánélet elvesztését azonosították a gyermek-robot interakcióból származó kulcsproblémákként. Nem világos azonban, hogy ezek a problémák kizárólag a gyerekek robotokkal való interakciójára vonatkoznak-e, vagy ugyanezek a problémák merülnek fel, amikor a gyerekek kapcsolatba lépnek az emberekkel. Az sem világos, hogy a gyermek-robot interakció nagyobb elszigeteltséghez vezet-e, mint a televíziózás vagy a videójátékok.

Elszigetelődés, ragaszkodás és megtévesztés

A robotoknak inkább fokozniuk kellene az ember-ember interakciót, nem pedig helyettesíteniük. Ha robotokat tervezünk asszisztensnek, nem pedig az emberi szereplők helyettesítésére, ez csökkenti annak kockázatát, hogy az ember-robot interakció elszigetelődéshez vezessen. Az ember-robot interakcióval kapcsolatos aggodalmak közül sokat figyelmen kívül hagyunk, ha ugyanaz a zavaró jelenség robotok hiányában is jelen van. Bár egyes kritikusok felháborodásukat fejezték ki amiatt, hogy egy gyereket egyedül hagynak egy robottársával, gyakran figyelmen kívül hagyják, hogy az érzelmileg éretlen vagy a vezeték nélküli eszközeik által megszállottan elterelt szülők viselkedése szintén hozzájárulhat a gyerekek elszigeteltségéhez vagy bizonytalanságához. Egy robot jelenléte, különösen az, amely úgy tűnik, hogy osztatlan figyelmet szentel a gyermeknek, mérsékelheti a problémás felnőtt viselkedés negatív hatásait a gyermekek érzelmi jólétére.

A megtévesztő gyakorlatok gyakoriak az emberek között, talán különösen a felnőttek és a gyerekek közötti interakciókban. Például sok szülő “örökíti” a Mikulás mítoszát, vagy azt akarja elhitetni, hogy gyermeke összefirkált papírja egy lenyűgöző műalkotás.

Az érzelmi kötődés kialakítása akár személyekhez, akár dolgokhoz nem kockázatmentes. Továbbra is nyitott kérdés, hogy a robotokhoz való érzelmi kötődés károsabb-e, mint egyes emberekhez való kötődés. Habár úgy tűnik, semmi sem rossz abban, ha egy gyerek kötődik egy robothoz, és a robotokhoz való kötődés semmivel sem rosszabb, mint más fizikai tárgyakhoz, például játékokhoz való ragaszkodás, ezt a kötődést a “gonosz” piaci szereplők kihasználhatják.
Egy cég felhasználhatja a gyermek robothoz való ragaszkodását, hogy személyes információkat nyerjen ki a gyermekből, termékvásárlásra ösztönözze, vagy más módon manipulálja a gyermeket.
A „rossz író” robotot megalkotó kutatók arról számoltak be, hogy a tanulmány után egy gyerek levelet írt a robotnak, amelyben megkérdezte, hogyan halad a küldetésével. Ez a példa azt sugallja, hogy a gyermek eléggé ragaszkodott a robothoz annak èrdekèben, hogy továbbra is kapcsolatba tudjon lépni vele, és kifejezze aggodalmát a jóléte miatt.

Maga a kötődés általában nem okoz problémát. Inkább az emberek és cégek kötődéseinek kihasználása okozhat problémákat. Például, ha egy vállalat gyermekrobot használ a gyermekről való információgyűjtésre, hogy a marketinget az ő ízlésüknek, érdeklődési körüknek vagy sebezhetőségüknek megfelelően szabja. Joggal feltételezhető, hogy ha a robotok által közvetített gyerekeknek szóló marketing eredményesnek bizonyul, a cégek a jövőben ezt bizony alkalmazhatják.

Egyedülálló probléma a gyermek-robot interakcióban, hogy a gyermekeket nem tartják képesnek a valódi és tájékozott beleegyezésük megadására

A gyerekeket már rávette a Facebook „baráti csalása”, hogy több száz dollárt költsenek el a szüleik engedélye nélkül alkalmazáson belüli vásárlásokra játék közben. Nem nehéz azt feltételezni, hogy egy robot, különösen az, akihez a gyermekben érzelmi kötődés alakult ki, ráveheti a gyermeket, hogy pénzt költsön szoftverének frissítésére vagy más olyan termékre, amely szórakoztatónak tűnik a gyermek számára. Ha információkat gyűjtenek a gyermek érdeklődési köréről, akkor a cégek célzott reklámokkall ösztönözhetik a gyermeket a kívánt tárgyak megszerzésére.

Hasonlóképpen, a gyermek-robot interakciókban előforduló megtévesztés, például ha a gyerek azt hiszi, hogy a robot érzelmeket vagy más belső állapotokat él át, vagy igaz barát, csak bizonyos összefüggésekben válhat problémássá. Például olyan helyzetekben, amikor a gyermek interakcióit robottársával nem egyensúlyozzák ki a szülő-gyerek interakciók vagy a társakkal folytatott társas tevékenységek. A gyerekek robotokkal való kötődése problémássá válhat, ha olyan megtévesztő tervezési jellemzők vagy adatgyűjtések vannak, amelyek lehetővé teszik a magánélet elvesztését, és ezzel együtt a gyermekek jólétének károsodását.

Adatvédelmi aggályok

Egyedülálló probléma a gyermek-robot interakcióban, hogy a gyermekek nem képesek a valódi és tájékozott beleegyezésük megadására. Előfordulhat, hogy a Charlie-val vagy a My Special Aflac Duck-kal interakcióba lépő gyermek nem tudja jól, hogy a robot milyen információkat gyűjt interakcióik során, vagy kivel fogja azokat megosztani, és még kevésbé ismeri a személyes adatok megosztásának hosszú távú következményeit. A szülők általában meghatározzák, hogy milyen információkat osztanak meg gyermekeikről és kivel (például orvosokkal, tanárokkal vagy gondozókkal). Továbbra sem világos, hogy a gyermek-robot interakcióba adott szülői beleegyezés megfelelően megvédheti-e a gyermekek hosszú távú érdekeit.

Tekintettel a robottechnológia viszonylagos újdonságára, folyamatosan bővülő képességeire, valamint arra, hogy a legtöbb felhasználó nem méri fel a robotokkal való interakciók esetleges következményeit, sok szülő nincs tisztában azzal, hogy milyen következményei lehetnek annak, amikor megengedik gyermekeinek, hogy robotokat használjanak. Azok a szülők, akik a Hello Barbie-t vagy a My Friend Caylát vásárolták, valószínűleg azt gondolták, hogy vonzó játékot vásárolnak gyermeküknek, és nem számítottak arra, hogy a játék képes behatolni a magánéletükbe oly módon, hogy veszélybe sodorhatja őket vagy gyermekeiket.

Adathasználat és tárolás

A gyermek-robot interakció kontextusa kérdéseket vet fel azzal kapcsolatban, hogy a robotoknak milyen információkat kell gyűjteniük, hogyan kell ezeket az információkat felhasználni, és kinek. A gyerekek képességeinek fejlesztését segítő robotnak képesnek kell lennie észlelni, hogy a gyermek hol hagyta abba az olvasás- vagy matematikaórát, hogy a későbbi interakciókat megfelelően kihívó módon tudja irányítani, és megakadályozza, hogy a gyermek unatkozzon.
Aggodalomra ad okot, hogy ezeket az információkat csak lokálisan kell-e tárolni a robotban, vagy a gyártó tulajdonában lévő felhőbe kell-e feltölteni. Az összegyűjtött adatok segíthetik a technológia megalkotóit a robot karbantartásában, felderítésében és fejlesztésében.

Beleegyezésünk nélkül az adatok felhasználása és megosztása sérti a magánéletünket. Azok, akikkel a gyermek él és érintkezik (például szülők, kortársak és a gyermek otthonába látogatók), azt is kockáztatják, hogy akaratlanul is megosszák az információkat a szándékosan kialakított kapcsolatok keretein túl. Ideális esetben azoknak, akik adatokat gyűjtenek, jó információkezelőknek kellene lenniük, és csak a technológia fejlesztésére használhatnák fel a végfelhasználók számára.

De elkerülhetetlenek az olyan vállalatok, amelyek adatokat adnak el más cégeknek, akik érdekeltek a gyermekeknek szánt termékek fejlesztésében vagy marketingjében. Az információk értékesítése valószínűleg sértené a felhasználók magánéletét, és az információ harmadik fél általi felhasználása kárt okozhat.

Például, ha valaki illegális szereket, vényköteles gyógyszereket, alkoholt vagy bizonyos egészségügyi állapotokat említ, ezeknek az információknak a megosztása társadalmi megbélyegzéshez, munkahely elvesztéséhez, jogi szankciókhoz, juttatások elvesztéséhez vagy a személy jó hírnevének károsodásához vezethet.

A lehetséges ártalmak mellett azonban az információk gyűjtése és felhasználása képes megvédeni a gyermekek jólétét. Például, ha egy gyerek olyan információkat közvetít egy robotnak, mint például a Hello Barbie, amely elhanyagolásra, érzelmi bántalmazásra vagy bántalmazásra utal, a robotot úgy lehet megtervezni, hogy értesítse a szülőt, gyámot vagy szociális munkást.

Egyes joghatóságokban a gyermek adataihoz hozzáféréssel rendelkező társaságok jogilag kötelesek jelenteni a feltételezett elhanyagolást vagy visszaélést

Bár a robotjátékok jelenleg nem indítanak nyomozást gyermekbántalmazással kapcsolatban, bizonyos jelek arra utalnak, hogy a robotok jobbak lehetnek az embereknél abban, hogy információkat gyűjtsenek a gyerekektől a rossz bánásmódról.

Például Cindy L. Bethel, a Mississippi Állami Egyetem munkatársa és kollégái 2016-os tanulmánya szerint a gyerekek nagyobb valószínűséggel jelentenek zaklatást egy robotnak, mint egy embernek. Ezen túlmenően a bűnüldözési nyomozás során a fitnesz-követő eszközök adatait használó bűnüldözési hírek arra utalnak, hogy a robotjátékok hasonlóan értékes információkat szolgáltathatnak a gyermekbántalmazási ügyekben.

Kihívást jelent majd olyan robot megtervezése, amely felismeri, ha a gyermek által megosztott információkat át kell adni egy szülőnek vagy egy másik megbízható felnőttnek. Ha ez az információ egy más célból adatgyűjtést végző cég számára hozzáférhetővé válik, a cég riaszthatja a gyermekjóléti hatóságokat. Egyes joghatóságokban az ilyen adatok birtokában lévő társaságok jogilag kötelesek jelenteni a gyermek elhanyagolásának vagy bántalmazásának gyanúját. A jogi jelentéstételi kötelezettség felmerülésének lehetősége arra késztethet néhány vállalatot, hogy alaposan átgondolják adatgyűjtési gyakorlatukat.

Aggodalmak az arcfelismeréssel kapcsolatban

Amellett, hogy reagálnak (és adatokat gyűjtenek arról), hogy mit mondanak a gyerekek és hogyan viselkednek, egyes robotok ma már arcfelismerő technológiával is rendelkeznek, amely új problémákat vet fel. Például Kínában egyes óvodákban rendszeresen robotokat használnak a gyermekek érkezése utáni elemzésére, és annak megállapítására, hogy nem fertőződtek-e meg valamilyen fertőző betegség, például kötőhártya-gyulladással, éshogy haza kel-e küldeni őket vagy nem.

Az arcfelismerő technológia felhasználható a finom arcvonások, önkéntelen reakciók, vagy akár az érzelmi állapotokhoz kapcsolódó mikrokifejezések, vagy – mint a kínai óvodák esetében – egészségügyi állapotok kimutatására. Az arcelemzés használata az óvodákban aggodalomra ad okot a téves diagnózisok lehetőségével kapcsolatban, amelyek a gyerekek szükségtelen hazaküldését eredményezhetik, megzavarva a napjukat és szüleik munkabeosztását. Az is aggodalomra ad okot, hogy az elemzés felvethet egy olyan feltételt, amelyet a gyermek szülei már előzően sikeresen kezeltek, és úgy döntöttek, hogy nem közlik az óvodával vagy akár a gyermekkel.

Az arcfelismerő technológiának többféle felhasználási módja létezik, amelyek aggályokat vetnek fel azzal kapcsolatban, hogy az egyének képesek-e szabályozni mások hozzáférését a magukról szóló információkhoz. Például az Affectiva egy olyan cég, amelynek sokrétű munkája olyan arcelemző algoritmusok kifejlesztését foglalja magában, amelyek lehetővé teszik a robotok számára, hogy reagáljanak és figyeljenek az emberekre, megvizsgálva például a járművezetők éberségét és hangulatát vagy a vásárlók mikrokifejezéseit. Ez a funkció különösen invazívnak tekinthető, különösen akkor, ha ezek a megfigyelési és következtetési képességek megkerülik az egyén azon képességét, hogy eldöntse, megossza-e az információkat. A megfigyelésen túl a vállalatok felhasználhatják az információkat arra, hogy bizonyos irányba „befolyásolják” az embereket – például termékeik megvásárlásához. Bár a szülők és más gondozók kötelességük részének tekintik, hogy a gyerekeket bizonyos magatartásra ösztönözzék, a többi szereplő befolyásolása problémás lehet, ha nem szabályozzák gondosan.

Robot tervezés: jelen és jövő

Bár el kell ismerni a gyermek-robot interakció lehetséges buktatóit, fontos, hogy ne tévesszük szem elől azt a sokféle lehetőséget, amellyel a gyerekek profitálhatnak a robotokkal való interakcióból különböző körülmények között, például egészségügyben, iskolában vagy játék közben. Az, hogy a gyermek-robot interakció a gyermekek hosszú távú jólétét is elősegíti-e, a tervezők, gyártók, forgalmazók és más felnőtt döntéshozók kezében van. Rájuk hárul a teher annak biztosítása, hogy a gyermek-robot interakciók ne fojtsák el a gyermekek fejlődését vagy ne korlátozzák jövőbeli lehetőségeikat, és hogy az ilyen interakciók során a gyermekről gyűjtött személyes információkat csak olyan módon használják fel, amely elősegíti a gyermek jólétét.

Bizonyos csoportok, mint például a Responsible Robotics, már most is együttműködik a döntéshozókkal, és felhívják a nyilvánosság figyelmét a robotok tervezésével és használatával kapcsolatos lehetséges etikai problémákra és más feltörekvő technológiákra. A gyermekek számára forgalmazott termékek esetében a Szövetségi Kereskedelmi Bizottság „biztonságos kikötő” programja arra ösztönzi azokat a vállalatokat, amelyek online webhelyeket vagy technológiai szolgáltatásokat nyújtanak, beleértve a kapcsolódó játékokat is, hogy védjék a gyermekek magánéletét.

A gyerekekkel való interakcióra tervezett robotokat forgalmazó és karbantartó cégeknek egyértelmű tájékoztatást kell adniuk a fogyasztóknak a robotok képességeiről és korlátairól, beleértve azt is, hogy milyen információkat gyűjtenek a felhasználóktól, hogyan gyűjtik, hol tárolják, és kinek van hozzáférése a robotokhoz. A vállalatoknak meg kell felelniük annak a kihívásnak, hogy segítsenek a szülőknek, a tanároknak és a gyerekeknek teljes mértékben megérteni az adatmegosztás gyermek-robot interakciójából fakadó kockázatait, ugyanakkor olyan módon kell eljárniuk, amely minimálisra csökkenti ezeket a kockázatokat.

A Mattel legfrissebb verziója a Hello Barbie-val kapcsolatos gyakran ismételt kérdésekről részletesen ismerteti a gyermekek magánéletének védelmét, és értesíti a fogyasztókat arról, hogy a Hello Barbie kidSAFE- és COPPA-kompatibilis.

A My Special Aflac Duck csak rákkal diagnosztizált gyermekek számára érhető el, és csak olyan engedéllyel rendelkező egészségügyi intézményekbe szállítják, amelyeket a vállalat felhatalmazott az eszköz átvételére. Információkat gyűjt a hozzá tartozó alkalmazás használatával, de az eszközazonosító kivonatolva van, ami nagyon megnehezíti egy adott személy nyomon követését.

A gyerekeknek szánt társrobotok fokozatosan megtalálják az utat az emberek életének különböző területein, gyakran oly módon, hogy javítsák a gyerekek élményeit vagy segítsenek nekik hasznos készségek fejlesztésében. Fontos lesz annak biztosítása, hogy ezeket az előnyöket ne fedjék el a feltörekvő technológiákkal járó kockázatok. Folyamatos, etikailag megalapozott párbeszédre van szükség a mérnökök, iparági partnerek, fogyasztói érdekképviseleti csoportok és mások között, akik a feltörekvő technológiákkal kapcsolatos etikai kérdésekkel foglalkoznak – különösen azokkal, amelyek hatással lehetnek a gyermekek fejlődésére és jólétére. Ezeknek a csoportoknak együtt kell működniük a politikai döntéshozókkal olyan szövetségi szabályozások és iparági szabványok megfogalmazásában és végrehajtásában, amelyek valószínűleg hozzájárulnak az emberiség robotokkal közös “virágzásához”.

(Forrás: https://www.americanscientist.org/article/child-robot-interaction)