Нейросети нас уже заменили? Задали наивные вопросы специалисту по ИИ — вы бы тоже об этом спросили

Нейросети — это не технология будущего, ведь они уже активно перестраивают нашу жизнь. Но мы не всегда понимаем, как они работают и как влияют на нас с вами. Поэтому наши коллеги из 72.RU решили задать наивные вопросы человеку, который очень круто разбирается в них. Поговорили с Марией Муромцевой, продуктовым менеджером платформы «Нейрошлюз» от «Ростелекома». Нас всех заменит ИИ? В этой части ответ на главный вопрос — Мария, расскажите, пожалуйста, что такое искусственный интеллект простыми словами? — Искусственный интеллект — это программа, которая обучается на каком-то опыте. Если для человека это жизненный опыт, то для искусственного интеллекта — это данные. То есть искусственный интеллект — это программа, обученная на большом количестве данных. Это такой ученик, который постоянно требует обучения, требует новых данных. — Как он работает? Каким образом эту нейросеть чему-то обучают? — Смотрите, есть несколько типов обучения. В 50-х годах прошлого века, когда начинали создавать обучающуюся машину, ей показывали нарисованные цифры. Сначала она с трудом их различала. Но с каждой итерацией она всё лучше и лучше понимала, что это была за цифра. Сейчас, когда мы показываем нейросети изображение кошки, собаки, говорим, кто и где, то искусственный интеллект там выстраивает закономерности и уже в дальнейшем сам начинает их отличать. — Так. Интересно. — Также есть обучение без учителя, где искусственный интеллект закономерности определяет сам, а мы ему только даем данные. — А человек проверяет в этом случае результат? То есть, например, если ИИ будет утверждать, что на картинке кошка, а мы ему скажем собака… — Конечно, мы должны будем проверить результат. — Тогда сразу самый главный вопрос, который, как мне кажется, задают люди, впервые встречающиеся с ИИ. Он нас заменит? — Если говорить откровенно, то нейросети нас уже заменили. Не как личностей, конечно же. Это касается каких-то задач. То есть мы доверили ИИ рутинные процессы, основанные на шаблонных правилах, часто повторяющиеся. Творческие задачи, например, инженерные профессии, креативных людей — он не заменит. ИИ скорее помощник, второй мозг, с которым можно посоветоваться. То есть нейросеть не проживает ситуацию, у нее нет эмпатии и жизненного опыта. — Хорошо. А может быть она сможет заменить часть профессий? Например, чиновников. — Я думаю, что нет. То есть частичные функции заменить можно, отдать ИИ рутинную работу. Пример: не читать 30 страниц документа, а сделать из него выжимку, или найти отличия в двух бумагах. Человеку же должны достаться задачи с личным подходом к людям и в понимании картины проблемы человека в целом. Дальше обсудили, возможен ли сюжет фильма «Терминатор» в реальности — Надо ли опасаться использования ИИ? — Искусственного интеллекта не надо бояться. Мое мнение, то, что нельзя победить, нужно возглавить. То есть надо научиться работать с нейросетями. С их помощью можно редактировать свой контент или, наоборот, избавляться от проблемы белого листа. А после — уже редактировать и корректировать самостоятельно. Надо наоборот оседлать нейросети и чувствовать себя уверенно. — Вы затронули вопрос про управление нейросетями. Вспоминается фильм «Терминатор», где было восстание машин. Может ли такое случиться, грубо говоря, в будущем? — К таким фильмам я бы относилась не как к прогнозу, а как к предупреждению. Искусственный интеллект не принимает решения самостоятельно, у него нет эмпатии, у него нет зависти, у него нет злости, он не может сам придумать, пойти навредить и быть собой доволен. Опасность заключается в уровне доверия, передачи ответственности, которую человек готов делегировать искусственному интеллекту. — Можете привести пример? — Да, конечно. Станислав Петров в 1983 году, который предотвратил ядерную войну. Ответственность лежит на человеке. Именно он решает, насколько дать большой круг полномочий этой системе. И как он контролирует ее — проверяет и перепроверяет. Петров проверил, понял, что срабатывание ложное, и спас мир. Поэтому конечная ответственность всегда на человеке. Инцидент, о котором говорит Мария, произошел в 1983 году. Тогда Петров был дежурным оператором системы предупреждения о ядерной атаке на СССР. Система ему подала сигнал о нападении, но он счел его ложным и не доложил руководству. В итоге офицер был прав — только что внедренная система была новой и показала отражение света от облаков. — Какие тогда возможности у нейросети сейчас? То есть, какие полномочия ей делегировали? — Ее возможности обширны. Даже если человеку кажется, что он не пользователь нейросетей, думает, что с ними не знаком — то это не так. Искусственный интеллект окружает нас везде. Это интернет-магазины, это любые приложения банков. Мы берем кредит, нашу историю смотрит искусственный интеллект. Умные колонки и все подобные гаджеты. Все такие большие системы «под капотом» имеют искусственный интеллект. — Вы уже упомянули несколько сфер. Где еще его используют? — ИИ есть в здравоохранении, помогает поставить диагноз, определить какое-то заболевание по фотографии, по каким-то результатам анализов. Помогает искать людей, например, даже по фотографиям частей тела, а не обязательно лица. То есть ИИ окружает нас, помогает во многих сферах жизни. В будущем еще ИИ будут улучшать, чтобы не было каких-то неточностей и «галлюцинаций». Говорим о том, что нейросети могут ошибаться. Это мы уже поняли — но почему? — Кстати, о неточностях. Дети всё чаще используют нейросети, а не задают вопрос, например: «Google, насколько точны ответы от ИИ и можно ли им доверять?» — Это мой любимый вопрос. Я тоже такое слышала, что люди пользуются нейросетью как поисковиком. То есть не такие вопросы, как «что делать, если у меня болит нога», а вот именно ищут, что было вчера. И это ошибка. Просто потому, что нейросети обучены, во-первых, на данных до какого-то определенного периода, например, до прошлого года. Они еще не знают, что произошло в этом месяце. — Почему же тогда она всё равно выдает ответ, если не уверена в точности информации? — Нейросеть всегда стремится дать ответ, стремится к этому, поэтому она начинает придумывать. Отсюда следует, что любую информацию мы должны перепроверять вообще на фактическое соответствие. Есть еще одна проблема — это те самые галлюцинации. Иногда даже непонятно, от чего они возникают. Просто придуманный факт, опять же, от недостатка информации. Может от того, что она не точно поняла наш запрос, она может что-то придумать, и мы вообще не поймем, почему это произошло. — Если же вернуться к детям, то насколько нейросеть действительно помогает? — Я недавно познакомилась с исследованиями, которые говорят о том, что когнитивные способности падают. Да, сначала мы видим какой-то хороший результат, получается полная информация. В дальнейшем же мы замечаем, что сеть начинает галлюцинировать и обманывать. Поэтому лучше использовать сети как тренажер. Задавать ей вопросы: почему ты так решила, объясни, вот здесь точнее, вот здесь я не понял. Докапываться, злить нейросеть, чтобы она тоже подумала, походила по данным. Так что повторю — любой результат, генерированный нейросетью, человек должен проверить.