Robotit
Kirjoittanut:
Charlotte Holst

Uusi teknologia tuo eettisiä ongelmia: roboteille tarvitaan moraalinen kompassi

Robottiteknologia etenee huimaa vauhtia. Etenkin sosiaalisiin robotteihin liittyy vaikeita eettisiä kysymyksiä, joita esimerkiksi itseohjautuvien autojen valmistajat joutuvat pohtimaan. Nordea Funds Magazine haastatteli tutkija Martin Mose Bentzeniä. Hän pyrkii yhdessä kollegoidensa kanssa kehittämään roboteille moraalikoodia.

Näytä lisää:
Tekniikka
Martin Mose Bentzen
Martin Mose Bentzen

Miten robotista tulee kunnollinen? Miten se osaa toimia varovasti ja varmistaa, että vahinkoa koituu mahdollisimman harvoille ihmisille? Entä jos vahinkoa on mahdoton välttää, miten robotti valitsee, ketkä vahingoittuvat?

– Etiikan tutkijat ja filosofit ovat nousseet päärooliin robottiteknologian kehityksessä. Nyt kehitetään etenkin sosiaalisia robotteja, jotka toimivat vuorovaikutuksessa ihmisten kanssa. Ne on ohjelmoitava siten, että ne pystyvät toimimaan eettisten normien mukaisesti. Jo pitkään on testattu itseohjautuvia autoja, joissa robotti hoitaa ohjauksen liikenteen seassa. Sosiaalisten robottien rooli vahvistuu myös hyvinvointipalvelujen tärkeimmillä osa-alueilla, toteaa filosofian tohtori Martin Mose Bentzen, joka toimii Tanskan teknillisen korkeakoulun DTU Management Engineering -laitoksen apulaisprofessorina.

– Suurimmat kehitysmahdollisuudet ja myös ongelmat liittyvät hyvinvointipalveluihin, siis vanhustenhoitoon, sairaalapalveluihin ja lastenhoitoon, hän sanoo. 

Tämän hetken polttavin kysymys koskee kuitenkin itseohjautuvia autoja: on otettava kantaa siihen, miten robottien pitäisi toimia hätätilanteissa. Autoalalla kehitys on selvästi pisimmällä ja kuluttajien suosiosta käydään kovaa kilpailua.

Kortit tiukasti piilossa

Suuret autonvalmistajat ovat huomattavan vaitonaisia eettisistä kysymyksistä. Hyvin harvat niistä ovat antaneet mitään tietoa turvallisuuskysymyksiin liittyvästä robottien toiminnasta. Kannanottoja arastellaan räjähdysherkillä markkinoilla. 

– Autonvalmistajat ovat todella varovaisia. Ne ovat palkanneet lakimiehiä tarkastelemaan eettisiä kysymyksiä, mutta pitävät korttinsa tiukasti piilossa. Näillä kiistanalaisilla markkinoilla käydään äärimmäisen kireää kilpailua, Martin Mose Bentzen sanoo.

Mercedes sai esimakua tilanteesta tänä kesänä kun yhtiön itseohjautuvista autoista vastaava johtaja Christoph von Hugo totesi, että jos tiedetään, että voidaan pelastaa vähintään yksi ihminen, se on autossa olija. 

– Lausunto herätti suuttumusta, ja se vedettiin osittain takaisin. Autohan on jo turvallinen rautapanssari, joten miksi se suojelisi matkustajaa enemmän kuin tielle juoksevaa lasta, kysyy Martin Mose Bentzen.

Tappava auto? Ei kiitos

Massachusetts Institute of Technologyn professori Lyad Rahwan on luonut pelillistämistä hyödyntävän ”moraalikoneen”, jonka avulla muodostetaan kuva siitä, millaisia eettisiä normeja ihmiset haluavat itseohjautuvan auton noudattavan. Hän on todennut, että:

”Ihmiset haluavat yleisesti, että auto on moraalisesti hyvä. He haluavat, että se aiheuttaa mahdollisimman vähän vahinkoa jalankulkijoille, vaikka se tarkoittaa autossa olevan ihmisen menehtymistä. Mutta kun ihmisiltä kysytään, haluaisivatko he ostaa tällaisen auton, vastaus on ehdoton ei.”

Lähde: IDA Universe

Kaksi aikuista vai yksi lapsi?

Martin Mose Bentzen kehittää Tanskan teknillisessä korkeakoulussa yhdessä muun muassa saksalaisten kollegoidensa kanssa moraalikoodia roboteille, joissa käytetään pitkälle kehitettyä tekoälyä. Tavoitteena on siis luoda eettiset normit, joiden mukaan robotit toimivat parhaalla mahdollisella tavalla tietyissä tilanteissa. Hänen mukaansa joissakin asioissa roboteille on tarpeen asettaa suuremmat vaatimukset kuin ihmisille.

– Ihmisiltä voimme kyllä hyväksyä pienen valkoisen valheen silloin tällöin. Sitä ei kuitenkaan voida hyväksyä tekoälyltä, sillä vaarana on, että se voi karata hallinnasta.

Edessä on todella vaikeita ongelmatilanteita, joissa on lähes mahdotonta päättää, miten robotin pitäisi toimia. Mitä itseohjautuvaa autoa ohjaavan robotin pitäisi tehdä, jos auton eteen astuu kaksi ihmistä, mutta jalkakäytävälle väistäessään se törmäisi siellä kulkevaan lapseen? Nämä kaksi ihmistä ovat toimineet väärin ja tyhmästi kävellessään auton eteen. Toisaalta taas robotti tappaa ehkä vain yhden ihmisen, jos se väistää heitä jalkakäytävälle, jossa lapsi kulkee.

– Ei ole minun asiani vastata siihen, mitä robotin on tehtävä tällaisessa tilanteessa. Me tutkijat pyrimme laatimaan perustan sille, miten voidaan tehdä päätelmiä niiden periaatteiden pohjalta, joita filosofit ovat tuhansien vuosien ajan pohtineet. Emme voi odottaa, että tekoäly on ihmistä parempi. Voimme kuitenkin vaatia, että autonvalmistajat pohtivat eri tilanteita tarkkaan ja ottavat ne huomioon, Martin Mose Bentzen sanoo.

Ajoivatko ihmiset oikeasti itse ennen vanhaan?

Autonvalmistajat eivät mielellään ota kantaa eettisiin ongelmiin, mutta korostavat sen sijaan sitä, miten itseohjautuvat autot parantavat liikenneturvallisuutta. Robotit eivät juo tai lähetä tekstiviestejä ajaessaan, eivätkä takapenkillä huutavat lapset häiritse niitä. Asiantuntijoiden optimistisimpien ennusteiden mukaan itseohjautuvat autot pystyvät välttämään yli 90 prosenttia onnettomuuksista.

– Auto on maailman tappavin väline. 50 vuoden kuluttua sen ajamista itse pidetään täysin vastuuttomana. Lapsenlapsemme kysyvät, että olemmeko tosiaan itse ajaneet autoa. Uskon vahvasti, että liikenneturvallisuus paranee, Martin Mose Bentzen sanoo.

Markkinoiden voittaja ja kuluttajien suosikki on se autonvalmistaja, joka pystyy tarjoamaan mahdollisimman turvallisia ratkaisuja ja saa ihmiset uskomaan, että sen robotit tekevät oikeat ratkaisut joutuessaan vaikeiden eettisten valintojen eteen.

– Ei tarvita montaakaan onnettomuutta, kun julkinen mielipide voi kääntyä autonvalmistajaa vastaan. Siksi niiden täytyy ehdottomasti ottaa huomioon, miten itseohjautuvat autot käyttäytyvät odottamattomissa tilanteissa.