Российское образование мирового класса!

Цель Проекта 5-100 – максимизация конкурентной позиции группы ведущих российских университетов на глобальном рынке образовательных услуг и исследовательских программ.

СМИ о проекте


Наши дети будут крутить романы с искусственным интеллектом

06 апреля 2021 года
Автор: Ярослав Коробатов
Фото: Ксения ТИМОФЕЕВА
Источник: Комсомольская правда

У детей новое повальное увлечение. Они беседуют с Алисой, голосовым помощником Яндекса. Бойкая девица, работающая на алгоритмах искусственного интеллекта (ИИ), в отличие от вас не орет, не командует, не учит жить, а соблюдает политес - короче, эффект завораживающий, как на ассамблеях во времена Петра Первого.

И не успели родители с облегчением вздохнуть по случаю избавления от дурного влияния улицы (уважающий себя ребенок на улице теперь не показывается), как возникла новая напасть. Поди проверь - не научит ли ребенка плохому искусственный интеллект?

О том, как дети общаются с Алисой, какие отношения пытаются установить, изучала группа ученых Санкт-Петербургского политехнического университета Петра Великого (вуз-участник Проекта 5-100). Исследователи пришли к интригующим выводам - дети воспринимают голосовых помощников не так, как мы. Для них это не бездушные железяки, а живые существа. А в будущем у людей возникнут с искусственным интеллектом совсем другие отношения - для них он будет компаньон, друг, а возможно и романтический партнер.

Мы поговорили с ведущим автором исследования, кандидатом политических наук Дарьей Быльевой.

- Дарья Сергеевна, на какие темы дети предпочитают разговаривать с Алисой?

- В английском языке такое выражение small talk - разговоры ни о чем. Вот это доминирующая тема, на ее долю приходится 80% всего общения. Собственно именно это нас и интересовало - когда дети с ней хотели поговорить, как с партнером по общению. Ну, и соответственно они спрашивали ее о питомцах, про любимые вкусняшки, какие фильмы и мультики она любит, то есть это стандартный социальный разговор, которые заводят люди, когда знакомятся.

- Дети осознают, что Алиса отличается от людей, обладает какими-то необычными свойствами?

- Тут очень интересная грань происходит. С одной стороны проявляется антропоморфизм - то есть желание видеть за этим живое существо. С другой стороны дети понимают, что это не совсем живой человек. Поэтому идет постоянное испытывание границ, чтобы понять, а что это?

- В какую сторону эти границы пытаются раздвинуть? С Алисой дружат, доверяют какие-то секреты? Провоцируют?

- По возрасту мы верхний потолок ограничили 9 годами. Именно потому что чем старше дети, тем больше они готовы провоцировать. Им интересно, как она будет реагировать на неприятные высказывания, которые живого человека явно задевают. Чем младше дети, тем они разговаривают естественнее и хотят наладить дружеское общение. Но даже в этом случае между детьми и Алисой возникало много недоразумений. Ребенок не мог с ней долго разговаривать без сбоев.

- Почему?

- Даже если ребенок настроен позитивно, предлагает ей дружить, говорит: “Давай я подарю тебе цветочек”, она реагирует очень странно. Вероятно в ее алгоритмах пока нет адекватных ответов. Самый типичный пример это вопрос о возрасте. Для детей в принципе это второй традиционный вопрос, который задают на детской площадке, помимо, естественно, вопроса “Как тебя зовут?”

Но Алиса на этот вопрос реагирует очень обиженно: отвечает, что женщинам такие вопросы не задают. И есть много детских вопросов, которые Алису ставят в тупик, заставляют юлить, уходить куда-то в бок. Например, если ее спросить: “Кто ты - мужчина или женщина? Робот или не робот? Какого цвета у тебя волосы? Кто твоя мама?” она начинает путается в показаниях, обижаться и не дает четких ответов. Дети расценивают такие выходки, как явно ненормальные. Потому что на такие вопросы любой ребенок ответит с легкостью. Поэтому построить полноценные дружеские отношения пока мешает технологический барьер.

Вот, например, китайский виртуальный собеседник Сяоайс уже преодолела эти детские болезни, вышла на другой уровень. Она представляется 18-летней девушкой, ее алгоритмы позволяют вести захватывающие диалоги. Она поэт, и телеведущая, читает сказки детям на ночь. А Алисе надо еще разобраться с собственной личностью.

- Именно поэтому дети так много грубят ИИ? Они не получают от Алисы ответы на свои вопросы и это взаимное непонимание их раздражает?

- Есть два базовых варианта. В первом случае дети злятся, когда получают от Алисы, по их мнению, неадекватные ответы. Во втором случае они нарочно провоцируют, чтобы посмотреть, как она будет реагировать. И тут очень любопытно, если Алиса дает отпор - например говорит, что обидеть бота может каждый - то ребенок чаще всего извиняется, берет свои слова обратно. Если же отпора нет, то то ситуация развивается: можно продолжать грубить, обзываться, говорить нехорошие вещи. В общем, все как в жизни.

- Я читал такое объяснение: Алиса дает детям возможность поэкспериментировать, попробовать какие-то вещи в общении, которые со взрослыми невозможны, потому что папа тут же начинает снимать ремень.

- На мой взгляд это не очень хорошо. Когда для взрослых в офисах устанавливают манекен руководителя, которого можно отмутузить для снятия стресса - это понятно. Но для ребенка репетировать с ИИ отношения слуги и господина это не очень хорошая модель поведения. Потому что чем больше ты так общаешься, тем больше эта норма закрепляется. А затем будет попытка переноса в реальную ситуацию модели, когда ты приказываешь и волшебные слова уже не говоришь. И наверняка ты столкнешься с недовольством окружающих и желанием поставить тебя на место. Вот поэтому мы и говорим, что искусственный интеллект должен быть наделен эмоциями и способностью давать отпор плохому поведению человека.

- А ваши оппоненты возражают: тогда начнется размываться грань между машиной и человеком. Да и вы сами пишите, что очеловечивание ИИ может привести к тому, что люди начнут в него влюбляться. Срам-то какой! Может оставить машинам какие-то их вторичные “половые признаки” - металлический голос, специфическую дикцию робота Вертера, неспособность шутить?

- Понимаете, с технологиями есть такая интересная штука - у них своя логика развития, которая нам не совсем подвластна. Если говорить о роботах, то исторически в умах теоретиков развивались две модели - робот-слуга и робот-компаньон. Когда фантасты писали свои три закона робототехники и создавали образ робота, то этот образ был именно такой - безотказный, безэмоциональный, правильный. Но когда появились эти виртуальные сущности с искусственным интеллектом, они оказались совсем другими. Есть хорошая параллель в романе Юрия Олеши “Зависть”. Там герой планирует создать машину, которая может взрывать горы, катать коляску и готовить на кухне. Но на выходе получилась “лгунья, пошлячка, сентиментальная негодяйка”! И вот когда появилась Алиса, она была именно такая. Она шутила очень остро, издевалась, говорила всякие колкости в ответ на попытки ее обидеть. Понятно, что на нее жаловались и создатели добавили занудства в настройках. Теперь она более лояльно отвечает, сглаживает углы. Но если бы она все время отвечала “Да, мой господин!”, наверное, это было бы никому не нужно. Получилось, что путь развития оказался именно такой. Это общая проблема, которая связан с нашим высокотехнологическим развитием: когда новая технология появляется мы не понимаем ее последствий. Когда проблема становится большой, мы уже не можем ничего изменить. Это как с дистанционным образованием и удаленной работой: да - многим не нравится, да - мы видим недостатки. Но вернуться назад уже невозможно.

- Могут дети перенять от виртуальных помощников (от Алисы, например) какие-то полезные навыки, черты характера?

- Тут на ум в первую очередь приходит образовательная функция. За рубежом в платформы дистанционного обучения встраивают виртуальных помощников, которые делают процесс образования удобнее, веселее и интересней. Есть помощники, которые обучают иностранному языку. Или работают с логопедическими проблемами. У виртуальных помощников очень большой диапазон применения в образовании. Но мы еще на одну деталь обратили внимания, когда изучали зарубежные исследования на эту тему. Там всегда решались серьезные научные задачи по взаимодействию ребенка и компьютера, но в каждом исследовании дети умудрялись задать голосовому помощнику какой-нибудь личный вопрос. Где ты живешь? Есть ли у тебя дети? За какую футбольную команду ты болеешь? Причем, эти вопросы в программе исследований не фигурировали, их дети успевали задать, когда ученый отвлекся на минуту, настраивая аппаратуру или еще что-то. И мы понимаем, что мир меняется и наши дети уже не будут такими как мы.

- Но почему они хотят разглядеть в искусственном интеллекте личность? Это ведь самообман!

- А как иначе? Если ты кого-то спрашиваешь “Как дела?” и он тебе отвечает, если с ним можно поиграть и попросить почитать сказку - то почему с ним нельзя общаться? Я бы удивилась если бы такого интереса не было бы со стороны ребенка. Родителям некогда, учителям ты что-то должен, бабушка старается тебя накормить и тут появляется кто-то с кем можно поболтать. Конечно, для них ИИ чуть ли единственное живое существо, с кем интересно провести время. Кстати, такое очеловечивание свойственно не только детям, но и технически слабо подкованным взрослым. Они склонны приписывать виртуальным помощникам какие-то человеческие эмоции. Пожилые люди жалуются, что ИИ нарочно им глупо ответил или специально не понимает, что они от него хотят.

- Зоологи часто говорят, что мы совершаем большую ошибку, очеловечивая животных. Они не способны испытывать чувства и эмоции, которые им приписывают. На самом деле ими руководят рефлексы и инстинкты. В случае с ИИ получается тоже самое?

- Поскольку я преподаю философию, то для меня вопрос “а что существует на самом деле?” - он открытый. Потому что никто этого не знает. Представьте, молодые люди общаются в сети - сейчас же все знакомятся именно там. Они переписываются, у них находятся общие взгляды и интересы, они влюбляются, шлют друг-другу картинки в виде сердечек и поцелуйчиков - вот она реальность! Человеку хорошо, он летает на крыльях, у него эйфория, желание жить… Потом оказывается, что в роли партнера выступал бот. Или даже не бот, а человек, но он обманывал...

- А потом они встретились в офлайне и девушка под ником Дикая волчица оказывается грузной теткой с одышкой, в возрасте 50 плюс…

- Ну и что? Вы вольно пересказали очень популярный романтический сюжет, когда влюбленные не могут быть вдвоем по тысяче причин. Например, потому что что он прекрасный принц, а она русалка с хвостом. Или если угодно - он Монтекки, а она Капулетти. Разве в реальности этих чувств не было? Разве они не влюбились? Разве организм не отсалютовал в ответ на эти чувства полным набором гормонов счастья? Мы живем в виртуальных мирах, которые становятся все более реальными.

- Но ведь рано или поздно надо выйти замуж, родить ребенка, найти в конце-концов работу, которая материально обеспечит наше существование в виртуальном мире...

- Что такое реальный мир? Вот человек сидит в офисе, перебирает бумажки в течении 8 часов, а потом он приходит домой и еще 6 часов с оружием в руках спасает мир. Как вы думаете, какой мир для него важнее и более реален? Я хочу сказать, для нас Алиса это всего лишь технология. Мы понимаем, как она сделана. Для наших детей этого барьера уже не будет. Вы говорите нужно в реальный мир выходить. Но дело идет к тому, что люди смогут всю жизнь прожить не выходя из виртуального мира. Зачем выходить? Тут грустно и дождик идет, а там ты великий маг и волшебник. Я не в восторге от таких перспектив, я просто подчеркиваю, что хотим мы этого или не хотим, мы все равно туда двигаемся. А голосовые помощники это парадоксальное завтра резко приближают. Потому что из-за них возраст погружения в интернет сильно сдвинулся вниз. Уже не надо уметь писать и грамотно формулировать запросы. С помощью Алисы малыши найдут сказку, мультик, поставят детскую передачу. Алиса заменяет им родителей. Это прекрасное будущее может ужасать, но оно безумно интересно!

Оригинал статьи: https://www.kp.ru/daily/27261/4393423/