Искусственный интеллект и нейросети развиваются быстрыми темпами, все активнее применяются во всех сферах жизнедеятельности человека. По мнению одних ученых, это открывает новые огромные возможности, другие выражают опасения из-за чрезмерного вторжения ИИ и нейросетей в нашу жизнь.
Своим мнением по этим вопросам с нами поделилась наша соотечественница, кандидат технических наук, старший научный сотрудник Федерального исследовательского центра «Информатика и управление» РАН Ольга Атаева.
– Ольга Муратовна, если можно, для начала объясните, пожалуйста, простым языком: что такое искусственный интеллект и что такое нейросети? Многие люди старшего возраста пока имеют о них смутное представление.
– Это не одно и то же. Искусственный интеллект – это широкое название для всех программ, которые решают задачи, обычно требующие человеческого соображения: распознать речь, перевести текст, поставить диагноз по снимку. Этому направлению около семидесяти лет, и долгое время оно обходилось без всяких нейросетей.
Нейросеть – это конкретный способ такие программы делать, сегодня самый успешный. Обычную программу человек пишет по шагам: сделай то, потом это. Нейросеть никто по шагам не пишет, ей обычно показывают миллионы примеров, и она сама подбирает внутри себя миллиарды числовых настроек так, чтобы на этих примерах не ошибаться. Отсюда и слово «обучение». Если упрощать и рассматривать обычную программу как рецепт, то нейросеть – это повар, который никогда не читал рецептов, но перепробовал миллион блюд и научился готовить похожие.
– В каких сферах жизни ИИ уже успешно применяется и доказал свою пользу? С чем люди сталкиваются, может быть, сам того не зная? Какие отрасли здесь лидеры, а где внедрять его пока рано или опасно?
– Мы сталкиваемся с ним постоянно и почти не замечаем. Распознавание речи и перевод с одного языка на другой, навигатор, прокладывающий маршрут с учётом пробок на дороге, банковская система, которая ловит мошенническую операцию по вашей карте, прогноз погоды – это давно работа обученных моделей.
Лидируют отрасли, где много однородных данных и есть быстрая обратная связь: финансы, торговля, транспорт, связь, промышленность. Там ошибку сразу видно и её цена измерима деньгами. А спешить нельзя там, где цена ошибки – это здоровье, свобода или судьба человека: медицина, право, государственное управление, вопросы, связанные с детьми. Я бы сформулировала так: скорость внедрения должна быть обратно пропорциональна цене ошибки. Основное требование – чтобы за машиной оставался человек, который отвечает за решение.
– Многие люди полностью полагаются на ответы нейросети, а она нередко даёт сбои. Объясните, пожалуйста, что такое «галлюцинации» и что такое «дрейф данных», какие ещё бывают сбои и как обычному пользователю их распознать и обезопасить себя?
– Галлюцинация – это когда модель уверенно сообщает то, чего нет. Придумывает книгу с правдоподобным названием и несуществующим автором. Приводит цитату, которой никто не произносил. Называет дату, похожую на правду. Причём делает это ровно тем же тоном, что и когда говорит верно. Человек привык, что уверенность собеседника хоть как-то связана с его осведомлённостью. У машины такой связи нет вовсе.
Дрейф данных – другая проблема. Модель училась на данных прошлого, а мир идёт дальше: меняются цены, правила, обстоятельства, язык. Модель этого не замечает и продолжает отвечать по-старому. Качество падает постепенно и плавно устаревающую программу можно не заметить годами.
Бывают и другие сбои. Модель подстраивается под собеседника, если вы настаиваете на своём, она с большой вероятностью согласится. Она чувствительна к формулировке, вопрос, заданный иначе, может дать другой ответ. Она может воспроизвести предвзятость, содержавшуюся в данных, на которых училась.
– Что делать обычному человеку?
– Три правила. Первое – спрашивайте источник и проверяйте, что он существует, это ловит большинство выдумок. Второе – не задавайте вопросов, ответ на которые вы не в состоянии оценить сами хотя бы примерно, а если задаёте, то не принимайте на веру. Третье – не сообщайте искусственному интеллекту того, что не хотели бы увидеть где-то ещё. И общее правило – используйте его как знающего, но безответственного собеседника. В любом случае отвечать за результат будете вы.
– Нет ли опасности, что за десять-двадцать лет искусственный интеллект или роботы с ИИ полностью заменят человека и люди останутся без работы? Какие профессии исчезнут, а какие останутся, но изменятся, когда рутину, вычисления и черновую работу возьмёт на себя машина?
– Опасение понятное, но, на мой взгляд, поставленное неверно. Машина заменяет не профессии, а отдельные задачи. Профессия – это всегда набор задач, и обычно часть из них автоматизируется, а часть нет.
Исчезнуть целиком рискуют занятия, состоящие почти сплошь из однообразной обработки информации: простой перевод типовых текстов, первичная обработка документов, часть работы колл-центров. Это уже происходит.
Гораздо больше профессий не исчезнет, а изменится, и порой сильно. Врач не исчезнет, принимать решение и разговаривать с пациентом будет человек. Юрист не исчезнет, но поиск прецедентов и черновик договора возьмёт на себя программа. Программист не исчезнет, хотя код всё больше пишет машина, его работой становится – решить, что именно строить, и проверить, что построено верно. Учёный не исчезнет. Общая закономерность одна – машины автоматизируют исполнение, человеку остаётся постановка задачи, суждение и ответственность. Но конкретному человеку может быть очень тяжело, придётся переучиваться в середине жизни. Это реальная социальная проблема, и решается она, наверное, образованием для взрослых.
– Может быть, ИИ станет просто умным инструментом в руках человека, повышающим производительность, как когда-то калькулятор, потом компьютер и интернет? Что говорит об этом история прежних технологий?
– Думаю, что в основном так и будет. История прежних технологий говорит, что рабочих мест в итоге не становилось меньше, менялся их состав. Появление компьютеров уничтожило профессию машинистки и целые залы счётчиц и создало столько занятий, которых раньше не существовало, что и перечислить трудно. Менее приятно осознание, что между разрушением старого и появлением нового проходит время, и конкретному человеку в этот промежуток бывает плохо.
Отличает от прежних технологий то, что, например, калькулятор своего мнения не имел, а нынешние системы предлагают вам готовые формулировки и тем самым незаметно влияют на ход вашей мысли. Поэтому сейчас актуально требование, которого не было при внедрении инструментов предыдущих поколений: сохранять собственное суждение.
– Некоторые предрекают, что ИИ со временем станет умнее человека, выйдет из-под контроля, начнёт действовать по своему усмотрению и захватит власть над человечеством. Насколько это фантастика, а насколько – сценарий, который всерьёз обсуждают специалисты? И чем он может быть чреват?
– Скажу аккуратно, потому что тут легко впасть в крайности.
Это не чистая фантастика, вопрос о том, как удерживать под контролем системы, чьи возможности растут, обсуждается всерьёз, им заняты научные группы, и он звучит в документах на государственном уровне.
Отмахиваться от него как от кино я бы не стала. Но картина из фильмов машина «захотела», «решила восстать» – не имеет отношения к делу. У нынешних систем нет желаний, нет собственных целей, нет представления о себе. Модель не хочет ничего, она отвечает, когда её спросили, и не существует между вопросами. Опасность специалисты видят совсем в другом, система может очень хорошо исполнять поставленную цель и при этом делать вещи, которых мы не предполагали, потому что цель мы сформулировали неточно. Как в сказках, где джинн исполняет желание в точности и не так, как вы хотели.
Поэтому и работа идёт не над «запретить машине думать», а над более прозаичными вещами: как ставить цели точно, как ограничивать области, где система действует сама, как сохранить человека в контуре принятия решений и как вовремя её остановить.
– А что, на ваш взгляд, опаснее и ближе – «восстание машин», или обычные человеческие ошибки в управлении мощными системами, которым доверили важные решения? И сумеет ли человечество разумно управлять нейросетями, чтобы не допустить техногенных и подобных катастроф?
– Второе – гораздо опаснее и гораздо ближе. Это уже происходит, только выглядит буднично: система отказала в кредите, и никто не может объяснить почему; алгоритм отсеял резюме по признаку, о котором никто не подозревал; автоматика управляет процессом на основании данных, устаревших год назад. Никакого восстания, обычная человеческая небрежность, просто масштабированная до миллионов случаев. Сумеет ли человечество управлять? Я умеренная оптимистка. Мы научились обращаться с вещами куда более опасными: с авиацией, атомной энергетикой, лекарствами. Способ везде один – испытания перед допуском, обязательные требования, ответственность разработчика, разбор каждого происшествия. Ничего специфического ИИ тут не требует, и всё это уже строится: отраслевые стандарты, регулирование, требование объяснимости, сохранение человека в контуре. Управлять надо не «нейросетью», а практикой её применения и не полагаться на неё там, где проверить результат некому.
– Каковы побочные эффекты повального внедрения ИИ? Разучимся ли мы думать, если машина будет думать за нас? И правда ли, что огромные дата-центры потребляют слишком много электричества и вредят экологии?
– Риск разучиться думать я считаю вполне реальным, и вижу его на студентах. Тут прямая аналогия с калькулятором, считать в уме мы стали хуже, и, положа руку на сердце, потеряли не так много. Но если то же произойдёт не с арифметикой, а с умением выстроить рассуждение и заметить, что вас обманывают, потеря будет несопоставимой. Нужно сохранять зоны, где вы работаете сами.
Про энергию правда. Обучение больших моделей и особенно их ежедневная работа на миллионы запросов требуют очень много электричества, а центрам обработки данных нужна ещё и вода для охлаждения. Но есть и другая сторона – модели используют и для того, чтобы экономить энергию, например, оптимизировать сети, здания, транспорт, искать новые материалы.
– Что вы посоветуете человеку, который хочет начать пользоваться нейросетями, но не знает, с чего начать? Какие два-три правила стоит соблюдать всегда?
– Начать проще всего с задач, где вы сами способны оценить результат. Попросите пересказать длинный текст, который вы читали. Составить письмо. Объяснить незнакомое слово. Помочь с формулировкой. Вы сразу увидите, где машина полезна, а где несёт вздор, и это лучшее обучение, никакие курсы не нужны. Я бы назвала три правила. Первое: всё важное проверяйте. Спросили про лекарство, закон, дату, цифру обязательно сверьте с источником, требуйте ссылку и убедитесь, что она существует. Второе: не рассказывайте лишнего. Не сообщайте персональных данных, чужих тайн, рабочих секретов, переписка может храниться и использоваться.
Третье: не отдавайте ей решения. Пусть готовит материал, а решаете вы.
И общее отношение, которое сильно облегчает жизнь: относитесь к ней как к очень начитанному собеседнику, который никогда не признаётся, что чего-то не знает. С таким человеком интересно разговаривать, но ответственность всегда будет за вами.
– Что бы вы посоветовали, чтобы в эпоху бурного развития ИИ не остаться без работы? Какие навыки становятся дороже, а какие обесцениваются?
– Обесценивается механическое исполнение, делать что-то по инструкции. Если ваша работа целиком укладывается в чёткий регламент, её рано или поздно автоматизируют.
Дорожает то, что автоматизации не поддаётся. Умение поставить задачу и понять, чего мы, собственно, хотим, а это самое трудное. Умение проверить, оценить чужой результат и заметить неладное. Ответственность или готовность подписаться под решением, машина этого сделать не может. И работа с людьми: доверие, забота, воспитание, переговоры – всё, где важно, что напротив вас живой человек.
Практический совет: осваивайте эти инструменты, но не позволяйте им заменять вам понимание. Ценность работника ближайших лет будет не в том, что «умею пользоваться нейросетью», это будут уметь все, также как пользоваться поисковиком в интернете. Ценность в том, чтобы понимать своё дело настолько хорошо, чтобы видеть, где машина ошиблась.
– Так всё-таки: искусственный интеллект – благо или зло? И если благо, то в чём оно заключается?
– Инструмент не бывает благом или злом сам по себе таковой бывает практика его применения. Ответ на этот вопрос зависит от нас.
Благо совершенно конкретное, так как человек перестаёт тратить жизнь на то, что можно поручить машине. Просмотр тысяч статей, сверка данных, рутинные выкладки – всё это годы, вычтенные из жизни человека, который мог бы в это время думать. Врач получает второе мнение по снимку, слепой – описание того, что перед ним ребёнок, в далёком селе – объяснение темы, которую некому объяснить. И это уже у нас есть.
Но и зло конкретное, если правдоподобный текст принимают за проверенный результат, информационное пространство наполняется мусором и недостоверными сведениями, которые выглядят как знание. А разница между этими двумя исходами в том, построим ли мы вокруг них процедуру проверки и сохраним ли привычку думать самим. Так что я бы сказала, что искусственный интеллект – это благо, требующее разумного использования, как и всякий инструмент.
Гугули ВАЛИЕВ
