У искусственного интеллекта нет чувств

Чем эмоции ИИ будут отличаться от эмоций людей

Как мы переживаем эмоции?

Об эксперте: Марина Чурикова, Lead Research Scientist в Neurodata Lab.

Эмоции — это комплексный психофизиологический ответ организма на события, происходящие в нашей жизни. Чтобы понять, можно ли научить нейросети эмоциям, вначале нужно разобраться с тем, что мы сами понимаем под эмоциями и как мы их переживаем.

Обычно переживание какой-либо эмоции включает в себя:

• некоторое внутреннее состояние, которое в обиходе и называется «эмоцией» (когда человеку грустно, страшно, или он испытывает радость);
• сопутствующие ему физиологические реакции (комплекс процессов, которые происходят в нервной, дыхательной, сердечно-сосудистой, и эндокринной системах организма);
• внешние проявления (изменения мимики, движений, жестов, интонации)

Можно ли научить ИИ испытывать что-то похожее?

Сможет ли нечто, не обладающее биологическим телом, когда-нибудь что-нибудь «испытывать» — сложный вопрос, на который мы пока не знаем ответа (хотя такой вариант довольно занимательно описан в рассказе Терри Биссона «Они сделаны из мяса» и фильме «Из машины»).

На данный момент мы можем научить ИИ лишь распознавать человеческие эмоции опосредованно через внешние проявления и реакции человеческого тела и демонстрировать (но не ощущать) сопереживание и эмпатию. Для того чтобы этого достичь, нужно последовательно пройти три этапа:

1. нужно научить нейросеть распознавать эмоции собеседника-человека, чтобы сориентироваться в ситуации;
2. затем научить ее синтезировать соответствующий ситуации ответ;
3. научить ее выдавать этот ответ в форме правильной эмоциональной реакции.

Ладно, как это сделать?

Первый этап — распознавание эмоций человека — ИИ уже неплохо освоил. Самые простые методы распознавания эмоций основаны на анализе взаимного расположения разных мимических сегментов лица. Сюда относится, например «система кодирования лицевых движений» (FACS) Пола Экмана, которая была положена в основу сериала «Обмани меня». Такая система может работать и без участия нейросетей: по сути, она выделяет ключевые точки на лице, затем по этим точкам распознает определенные области лица и их смещения.

В современной науке подход Экмана признан устаревшим и подвергается критике, одна из причин которой — то, что его методика опирается на движения лицевых сегментов, которые далеко не всегда соответствуют определенной эмоции. Поскольку переживание эмоций может сопровождаться изменениями не только в мимике, но также в физиологии и поведении, то сейчас наиболее точным считается мультимодальное распознавание эмоций. Этот метод предлагает анализировать не расположение отдельных областей лица (например, поднялись брови вверх или сошлись у переносицы), а все лицо целиком на протяжении какого-то времени, ведь переживание любой эмоции имеет свою длительность и фазы. Кроме того, мультимодальный подход также включает анализ жестов, речи и интонации человека и его физиологических параметров.

Собрать все составляющие такой системы довольно сложно, но ученые достигли очень высокого уровня точности: например, сейчас мы располагаем алгоритмами, которые определяют частоту пульса и дыхания человека по видео, а ведь еще недавно это казалось фантастикой. Также на текущий момент мы уже можем неплохо распознавать интонацию, тембр и эмоциональную окрашенность голоса по аудиопотоку, что может использоваться, например, в разработке голосового помощника, где видеопоток недоступен.

Второй этап — синтез эмоционального ответа, то есть расчет того, какую реакцию ИИ должен выдать в ответ на какие-то человеческие эмоции. Синтез зависит не только от того, какую эмоцию ИИ распознал на первом этапе, но и от контекста происходящего — то есть, от ситуации, в которой находится человек, который взаимодействует с ИИ. Контекст играет важную роль в человеческом общении: мы воспринимаем всю ситуацию целиком, и сами интерпретируем эмоции собеседника не только в зависимости от выражения его лица, но и исходя из нашего жизненного опыта и того, как мы понимаем его состояние и слова. Например, если вы стоите в пробке, у вас текут слезы и вы задыхаетесь, то ИИ-помощник может интерпретировать выражение вашего лица и частоту дыхания как «грусть» и подготовить ответ, который должен вас утешить. На самом же деле у вас аллергия на пыльцу, вы забыли таблетки дома и ситуация приводит вас в ярость. Вам нужно не утешение, а адрес ближайшей аптеки, причем озвученный тоном, который не разозлит вас еще больше.

У нейросети «понимание» контекста может осуществляться через анализ окружающих предметов, собеседника, места и прочих доступных видимых параметров, но человеческим жизненным опытом ИИ не обладает. Для ИИ «опыт» — это все те данные, на которых он обучался, он ограничен ими и не может выйти за их пределы.

При синтезе эмоционального ответа нейросеть сможет выбрать его только из тех вариантов, которые ей показали при обучении. Люди же обладают уникальным жизненным опытом, который накапливают всю жизнь, отчего наши эмоции отличаются гибкостью и адаптацией к меняющемуся миру вокруг нас. Кроме того, огромная часть нашей коммуникации обусловлена обществом и культурой: мы проводим много времени на работе, в транспорте и общественных местах, где внешнее выражение эмоций ограничено определенными правилами поведения. Вдобавок наши эмоции могут быть спонтанными и во многом зависят от индивидуальных личностных черт, темперамента, особенностей нервной системы. Даже если представить, что ИИ сможет постоянно дообучаться, будет очень сложно записать и оцифровать все это многообразие реакций и контекстов. В данный момент сложно представить себе нейросетевой алгоритм, способный на такую гибкость.

Кроме того, есть и культурные особенности — например, у ряда культур существуют специальные понятия и знаковые системы для описания эмоций и состояний, которые отсутствуют в английском или русском языке. Это тоже добавляет сложности обучению эмпатичной нейросети.

И, наконец, третий этап — генерация ответа эмоциональным ИИ. Она должна быть достаточно точной и плавной, чтобы человек воспринимал это как естественный процесс и не ощущал, что общается с автоответчиком. Тогда алгоритму нужно воссоздать внешнее выражение эмоций — как минимум, сгенерировать эмоциональное лицо на изображении или видео с сопутствующими жестами и естественной интонацией ответа. Если же ИИ воплощен в механическом роботе, то, возможно, придется дополнительно поработать над пластичностью мимики его лица, плавными и естественными движениями конечностей и туловища (но не настолько, чтобы сделать его полностью антропоморфным, ведь такие объекты вызывают у нас дискомфорт). Вдобавок, вся эта реакция — лицо, мимика, движения и речь — должна генерироваться так же быстро, как это происходит в обычной беседе между людьми.

И все-таки, хотя бы в теории такое возможно?

Некоторые футурологи, например Рэй Курцвейл, считают, что искусственный интеллект будет развиваться по экспоненте, поскольку он создается на основе уже существующих технологий. И что, скорее всего, мы еще при жизни сможем застать появление по-настоящему сильного общего ИИ, способного, в том числе, осознавать себя и возможно даже испытывать эмоции. Однако его появление может создать неожиданную проблему: ИИ может не только достичь человеческого уровня интеллекта, но и сильно превзойти его за очень короткий срок. В результате мы как вид можем оказаться в положении, когда нам придется сосуществовать с чем-то, чьи расчеты, намерения, эмоции и мотивы будут слишком сложны для нашего понимания.

Произойдет ли все так, как предсказывает Курцвейл? Сможет ли ИИ в самом деле переживать эмоции? И будут ли они так уж отличаться от наших? Посмотрим.

Источник

Эмоции, чувства, ощущения и Искусственный Интеллект

Искусственный интеллект – задача многогранная и сложная. Уж не говоря о том, что ей еще надо найти безопасное применение…
Вчера, заглянув на хабр, я прочел статью про ИИ и то, чем он должен обладать. Очень долго я думал о том, почему опускают чувства, ощущения и эмоции.
Я считаю, что чувства — одна из важнейших моделей программирования ИИ, однако, давайте по порядку.

Глоссарий

Для начала давайте определимся с понятиями и описаниями.

Также хочу добавить что чувство – это более высокий элемент, чем ощущение. Банальный пример: чувство сопереживания и ощущение боли. Ощущать сопереживание нельзя, значит ощущение это то, что дают нам органы чувств.

Добавлю, что я не буду рассматривать сами органы чувств и оставлю этот момент на желание читателя.

Некоторые элементы подчерпнуты из психологии, физиологии, философии и еще пары наук, однако, все остальное – чисто теоритическая часть и субъективное мнение.

И заранее: Интеллект != нейронная сеть.

Немного фактов

Любое животное, в том числе и человек, при рождении имеет безусловные рефлексы.

Как петуха учат танцевать под балалайку? Ставят на раскаленную сковороду и играют на балалайке. У петуха появляется условный рефлекс, что под балалайку ножки жжёт и пора, собственно, скакать. Это называется ассоциативная память – она присутствует у любого животного.

Теперь добавим еще моментов: что вы помните из времени своего рождения?! Ничего. У вас тогда работает только ассоциативная память. Но и не только, однако, об этом чуть позже.

Что заставляет запоминать?

Где-то и когда-то я читал (за пруфами в гугл), что в мозгу животного есть место, где запоминается все плохое, чтобы в следующем не попадать в данную ситуацию… Так называемый внутренний ассоциативный BAD-массив.

Т.е. можно предположить простое понятие: плохое и хорошее. Но, поскольку, на плохое и хорошее делить глупо (т.к. понятия субъективны), то можно опуститься до параметра ощущения – боль. Введем этот параметр от -1 до 1, где 1 = хорошо, а -1 = плохо.

Петух запоминает ассоциацией, что при звуках балалайки будет боль. И что минимальное избежать ее можно тем, что она будет прыгать на своих ножках. Со временем вырабатывается крепкий условный рефлекс и последующая реакция на него, которая помогает сдвинуть ползунок из меньше нуля в больше нуля, хотя бы на доли секунд…

Что мы имеем? Ассоциативный массив с параметром, что это больно, и описаниями последующих действий, дабы переместить ползунок наверх…
При этом присутствует какая-то базовая логика: боль? Постараться ее избежать – вызвать безусловный рефлекс избегания боли, т.е. поднять ножку.

Однако

У человека есть более расширенная логика с пониманием причинно-следственной связи: в данном случае, осознание, что стоять на горячей сковородке и скакать постоянно – не есть труЪ и избежать данной боли можно несколькими путями:

• слезть со сковородки;
• выключить газ;
• навалять балалаечнику.

Да, человек будет также избегать боли, вызывая безусловный рефлекс «скакать», однако, он также будет пользоваться расширенными от базового класса «безусловный рефлекс», постоянно расширяя его и перестраивая.

К этому можно подвести банальность: когда вы рождаетесь, то вы не имеете никаких условных рефлексов (или имеете хоть какие-то). Когда ребенку больно, он начинает орать. Прибегает мама, кормит/поит/баюкает/меняет пеленки. Ползунок смещается в сторону выше нуля и ребенок успокаивается. Со временем ребенок устанавливает связь, что, дескать, да, если я заору, то прибежит мама и покормит. Со временем мы набираемся опыта и перестраиваем базовые классы (или наследуем от предыдущих) и, когда хотим есть, мы не орем, а идем на кухню и передвигаем свой ползунок боли выше нуля.

Т.е. животное заставляет обучаться желание держать ползунок боли хотя бы выше нуля. Человек же, выстраивая логические связи, со временем учится с наименьшими затратами передвигать данный ползунок. Животное же пользуется только ассоциативной памятью или, так называемыми, условными рефлексами: петух не выключит газ и не разобьет балалайку.

В принципе, все чувства можно привести к ощущение боли, например, привязанность можно привести как нежелание получать боль при отсутствии данного человека (достаточно дилетантское объяснение, но расширяйте, если есть желание), которое расширенно от высших классов, которые как-либо или иначе (кстати, вполне можно вписать сюда множественное наследование) наследуются от базового класса Боль.

Действия – это расширенные безусловные рефлексы, которые каждый раз увеличиваются в размере наследования (и также, вполне возможно, включают множественное наследование).

А точнее?!

Представим следующую схему: есть базовый процессор, который получает событие, что происходит боль (неприязнь). Процессор собирает данные с других чувств, записывает что «Это» больно. После он передает событие другому процессору о том, что надо что-то сделать, чтобы избежать боли. Второй процессор прошаривает ассоциативную память на предмет выходов и вызывает событие (или события) «избежать», которое имеет больший приоритет. Если это помогло избежать в дальнейшем этой боли, то первый процессор записывает выход, увеличивает приоритет и складывает в ассоциативную память. Также он восстанавливает из быстрой памяти информацию, приведшую организм в данную ситуацию, анализирует, отбрасывая лишнее, и добавляет ее к описанию.

Это позволяет организму избежать в дальнейшем повторения ситуации.

В дальнейшем третий процессор где-то получает информацию как выйти из ситуации проще. Присваивает ей приоритет, но с меньшим параметром актуальности, и записывает в массив. В случае слабой нужды, второй процессор может вызвать новую информацию, дабы проверить ее и, в случае успеха, повысить ей приоритет, либо, в случае высокой нужды избегания Боли, вызывает действие с высшим приоритетом (вплоть до самого низкого, т.е. безусловного рефлекса (поднять ногу пока собираем информацию об обстановке и имеем ли мы доступ к крану и/или чему-нибудь тяжелому для балалаечника)). Постоянно пополнять ассоциативный массив и перестраивать классы нас заставляет третий процессор, который ищет выходы для всех классов (ведь каждый класс вносит свои поправки в боль), расширяя тем самым модель организма и стараясь привести его в состояния комфорта.

Классы?

В private структуре можно хранить параметры изменения ползунка: чем выше класс, тем меньше он меняет ползунок (или это вызывается в родителях так, что родители вносят коррективы, что в последствие превращается в длинное вещественное число малое по размеру).

В protected структуре можно хранить ссылки на действия, помогающие избежать данности и, результирующе считающие функции, позволяющие вернуть значение, которое передвинет нас к большему значению комфорта (они могут вызывать такие же функции родителей, получая и суммируя общее число).

В public можно хранить собственно процедуру получатель события…

Ах, да, забавный момент: нет смысла создавать объекты… Тут даже проще использовать прототипы.

К чему это все?

Организм животного имеет жестко заданный алгоритм действия — безусловный рефлекс.

Человеческий организм вносит поправки в параметр боль, расширяя его (от 0,005 до 0,0075 – состояние «неприятно», например) параметрами и классами также оставляя безусловные рефлексы (отдернуть руку от горячего чайника), но, обучая организм в дальнейшем не сталкиваться с данностью и выходить перед ней, строя модель следствий действий.

Все строится на ассоциативном массиве.

Стимул к обучению и расширению наших знаний дает нежелание получить боль (отсутствие почета – тоже боль).

Дабы искусственный интеллект обучался, требуется дать ему ощущение боли, желание его избежать, безусловные рефлексы (т.е. четко заданный алгоритм) и возможность переписывания собственных классов.

В данном случае есть возможность заставить его обучаться самостоятельно, однако, вскоре он может добраться до собственных базовых исходников и переписать алгоритм передвижение со временем ползунка боли и забить, наслаждаясь существованием.

Это образно-субъективный взгляд на ИИ и, как кажется, описан он немного профански, но, думаю, вызовет бурю эмоций в данном сообществе и, может быть, внесет свою лепту (а может уже она есть) в построение алгоритма ИИ.

UDP:
Сейчас до меня собственно дошло, что скорей всего я погорячился с понятием боли. Тут скорее подойдет понятие «раздражитель».

Растение имеет четко запрограммированную реакцию на раздражитель (обобщая, можно сказать, безусловный рефлекс). Пример: порот листьев к солнцу по мере движения оного. В данном случае так работает обычный логический компьютер: есть команда (раздражитель) и результат (реакция). Пример: 2+2 результат = 4.

Животное, помимо безусловных рефлексов, имеет ассоциативную память и строит условные рефлексы на раздражители. В таком состоянии сейчас находится нейронная сеть: имея безусловные рефлексы (возможность подсчитать 2+2) она дает результат, а также обучается для решения сложных задач.

Человек умеет прогнозировать, логически выстраивать последующие возможности столкновений с ситуацией, моделировать раздражитель без его присутствия и обучаться… Вот на этом уровне должен находиться интеллект.

Т.е. нейронной сети до интеллекта еще «эволюционировать и эволюционировать».

Источник