Hlavní obsah

Pozor na umělou hloupost, varují výsledky experimentů. Lidé věří humanoidním robotům, i když je vidí chybovat

25. 8. 2018
Foto: Universiteit Gent

Ilustrační snímek.

Vzpoura umělé inteligence by se stále markantnějším nástupem autonomních strojů nemusela být hlavním nebezpečím pro lidstvo. Někteří vědci varují naopak před „umělou hloupostí“. Podle řady experimentů lidé robotům přisuzují lepší schopnosti, než kterými ve skutečnosti disponují.

Článek

„Existuje fenomén, kterému říkáme automatizační předpojatost. Lidé mají tendenci myslet si, že stroje toho vědí víc než ve skutečnosti,“ cituje list The Washington Post Alana Wagnera z Pensylvánské státní univerzity.

Nejvíce jsou z tohoto pohledu ohroženy děti. Upozorňuje na to i studie publikovaná v časopise Science Robotics. Děti měly za úkol určit, které dvě z několika prezentovaných čar jsou stejně dlouhé. Děti vědci rozdělili do dvou skupin, v jedné pracovaly o samotě, ve druhé k jejich stolu vědci posadili tři autonomní roboty s humanoidními prvky.

Roboti dostali od vědců stejnou otázku, na kterou před dětmi odpověděli špatně. Při porovnání výsledků byly děti, které čelily ze strany robotů „sociálnímu tlaku”, méně úspěšné. 75 procent jejich špatných odpovědí se shodovalo se špatnými odpověďmi robotů.

„Děti nevidí takovéto roboty jako změť drátů, vidí osobnost. Pro děti je důvěřování ostatním typické,“ vysvětlila pro list Anna-Lisa Vollmerová z univerzity v německém Bielefeldu.

„Musíme se zamyslet nad tím, zda neexistují oblasti, ve kterých mohou roboti společnosti uškodit. Děti nesmějí vyrůstat s myšlenkou, že roboti jsou experti na vše, a nesmějí je vnímat jako své vrstevníky,“ řekla profesorka z MIT Sherry Turkleová.

Roboty slepě následují i dospělí

Dospělí podle vědců obdobnému testu odolali a tlaku ze strany špatných odpovědí robotů nepodléhali. V momentě, kdy špatně odpovídaly jiné dospělé osoby v místnosti, tlaku svého okolí podléhat začali.

Podle vědců je tak možné, že ani dospělí nejsou vůči tlaku ze strany robotů imunní. Rozluštit by to mohly experimenty s roboty, kteří by více připomínali je samé. Většina autonomních robotů s humanoidními prvky se velikostí podobá spíše právě dětem, připomínají.

Jako nápověda mohou sloužit i experimenty pod vedením Alana Wagnera. V jednom jeho tým zavřel skupinu lidí s jedním robotem do budovy a stroj skupinu vedl z jedné místnosti do druhé. Při cestě přes chodbu opakovaně bloudil. Následně místnost zaplnil kouř a osoby se měly evakuovat.

K překvapení vědců všichni znovu následovali robota, přestože ho dříve viděli opakovaně zabloudit a i při cestě k východu je dovedl do špatné místnosti a točil se v kruzích, namísto toho, aby následovali svítící cedule navigující k východu z budovy.

Podobné experimenty později Wagnerův tým opatřil úvodním prohlášením, že robot je rozbitý. Podstatná část evakuované skupiny ho přesto následovala, v jednom případě i do místnosti se zablokovaným vchodem.

„Robotům uvěříme, že chtějí být kamarádi“

Podle Turkleové bude pro lidi v budoucnu velmi těžké neidentifikovat se s humanoidními prvky autonomních robotů. Oční kontakt a řeč ze strany robotů podle ní v každém působí na vnitřní „darwinovská tlačítka”.

„Hluboko uvnitř jsme naprogramovaní takto vypadajícím objektům věřit. Věříme nejen tomu, že vnímají svět okolo sebe, ale i tomu, že se o nás zajímají. Člověk ve skutečnosti není náročný. Pokud mu lidsky vypadající robot řekne, že chce být jeho kamarád, uvěří mu,“ dodala.

Její slova dokládá nedávný experiment z Německa. Dobrovolníků se malý humanoidní robot ptal například na to, zda mají raději pizzu, nebo těstoviny. V momentě, kdy dobrovolník dostal od dohlížejících pracovníků pokyn robota vypnout a ten ho začal prosit, aby to neudělal, mnoho účastníků experimentu začalo váhat.

Někteří ho vypnout odmítli, jiným to trvalo dvakrát déle oproti situaci, kdy je robot neprosil.

Doporučujeme