От автора

В Азербайджане об искусственном интеллекте уже говорят не только программисты. Одни видят в нём новый двигатель экономики, другие предупреждают о рисках для образования, права и безопасности. Недавно даже прозвучало предложение отказаться от привычного названия «искусственный интеллект» и говорить о «Высшем интеллекте».

Но меня в этой дискуссии интересует другой вопрос. Все чаще всего спрашивают, каким становится искусственный интеллект. А я предлагаю спросить: какими становимся мы? ИИ меняет только то, как мы работаем и думаем, или постепенно меняет и нас самих?

Искусственный - значит ненастоящий?

Действительно, слово «искусственный» звучит несколько обидно. Искусственный цветок - не цветок. Искусственная улыбка - не совсем улыбка. А вот с искусственным интеллектом возникает странная ситуация. Он искусственный, но последствия его работы вполне настоящие. Он появился как технология, но постепенно становится участником нашей интеллектуальной жизни.

Мы разговариваем с ним, просим объяснить, спрашиваем совета, проверяем собственные идеи. Иногда даже поручаем ему работу, которую ещё недавно обязательно делали сами.

И здесь возникает вопрос: если машина уже помогает нам думать, почему мы продолжаем относиться к ней как к обычному инструменту?

Новый сотрудник, которого никто не нанимал

Представим небольшую компанию. У неё появился сотрудник, который умеет переводить документы, составлять письма, анализировать таблицы, искать информацию и работать круглосуточно.

Он не требует отпуска. Не опаздывает. Не просит повышения зарплаты.

Правда, есть одна небольшая проблема.

Обычный сотрудник иногда честно говорит: «Я не знаю». ИИ гораздо чаще отвечает: «Конечно, сейчас объясню». И только потом может выясниться, что хотя объяснение было очень уверенным – в такой же степени было и неправильным. Поэтому я бы пока не спешил называть его «высшим» во всех отношениях. Но и считать его просто компьютером уже трудно.

Что ИИ уже начинает менять в человеке

Раньше технологии в основном увеличивали наши физические возможности. Колесо позволяло ехать дальше, двигатель - двигаться быстрее, машина - поднимать то, что человеку не под силу.

ИИ делает кое-что другое. Он начинает участвовать в интеллектуальной работе. Обычный человек может открыть его вечером и спросить: «Объясни мне эту тему простыми словами». Или: «Помоги составить письмо». Или: «Вот моя идея. Найди в ней слабые места». ИИ постепенно меняет наши привычки. Мы привыкаем к мысли, что рядом всегда есть тот, кому можно задать вопрос. Даже если этот «тот» - компьютер.

Но здесь появляется неприятная сторона. Чем умнее становится помощник, тем ленивее может становиться хозяин.

Зачем запоминать, если можно спросить? Зачем самому формулировать мысль, если машина сделает это быстрее и красивее? Сначала это удобно. Потом очень удобно. А потом человек вдруг обнаруживает, что уже не помнит, как раньше обходился без него.

И вот здесь начинается самое интересное.

Мы теряем монополию на мышление

Тысячелетиями человек создавал инструменты, которые усиливали его тело. Теперь появился инструмент, который усиливает не только руки, глаза или скорость передвижения. Он начинает усиливать мозг.

Если рядом с человеком существует система, способная быстро анализировать информацию, находить связи, формулировать мысли и предлагать решения, возникает непростой вопрос: а что тогда остаётся нам?

Раньше машина могла забрать у человека часть физической работы. Теперь она начинает забирать часть работы мозга. И это уже не просто вопрос удобства. Это вопрос о том, как изменится сам человек, если значительную часть интеллектуальной работы он привыкнет отдавать машине.

Машина советует - человек решает

Есть одна важная мысль: такая технология требует особой ответственности. И ответственность должна оставаться у человека.

Представим врача, которому ИИ предлагает несколько вариантов лечения. Или инженера, который использует систему для анализа сложных расчётов и проверки проекта. Во всех этих случаях машина может оказаться очень полезной. Но последнее решение нельзя принимать по принципу: «Раз компьютер сказал - значит, так и есть». За последствия всё равно отвечает человек.

Поэтому чем сильнее становится ИИ, тем важнее не поклоняться его ответам, а уметь их проверять. Возможно, будущему человеку понадобится новое качество - умение сомневаться в очень убедительном ответе.

ИИ может за несколько секунд обработать огромное количество информации и при этом ошибиться в элементарной вещи.

Он может написать блестящий текст, не имея жизненного опыта. Может рассуждать о любви, не испытывая её. Может объяснять человеческую боль, не зная, что такое боль. Это не делает его бесполезным. Наоборот. Но напоминает простую вещь: умный ответ ещё не обязательно правильный ответ.

Но происходит ещё кое-что. Человек уже начал просить ИИ не только: «Напиши мне письмо или эссе». Просьбы усложнились: «Как лучше принять решение?» «Где я ошибаюсь?» «Что произойдёт, если сделать наоборот?»

В этом случае ИИ становится не столько машиной, которая делает работу вместо нас, сколько постоянным интеллектуальным собеседником. А хороший собеседник способен повлиять на решение человека.

И тогда возникает новая граница: где заканчивается помощь и начинается уже мышление машины, которое мы принимаем за своё?

Что тогда остаётся человеческим?

Здесь разговор об ИИ неожиданно возвращает нас к очень старому вопросу: что вообще значит быть человеком?

Если способность анализировать, сравнивать, находить закономерности и формулировать мысли больше не является исключительно человеческим качеством, то что остаётся нашей особенностью?

Жизненный опыт? Чувства? Способность любить и страдать? Ответственность за последствия принятых решений?

На эти вопросы сегодня нет окончательных ответов. И, возможно, не стоит торопиться их искать.

Поэтому мне кажется неправильным просто противопоставлять человека и ИИ и постоянно выяснять, кто умнее. В некоторых задачах машина уже умеет делать то, с чем человеку трудно конкурировать. С другой стороны, можно дать человеку искусственный интеллект, способный анализировать миллионы вариантов. Но кто решит, какой из них стоит выбрать?  Пока ответ остаётся за человеком.                   И, возможно, именно способность выбирать - с учётом опыта, ценностей, ответственности и последствий - ещё будет отличать человеческое мышление от машинного анализа.

Но и здесь история технологий учит нас быть осторожными с такими словами, как «навсегда». Человек вообще любит объявлять какую-нибудь границу окончательной. Обычно до тех пор, пока не появляется новая технология и не передвигает её ещё немного.

ИИ уже не просто инструмент. Он постепенно становится частью среды, в которой человек думает, работает и живёт. А значит, вопрос уже не только в том, что ИИ сможет делать. Возможно, гораздо важнее понять, каким станет человек рядом с ним.

Последний парадокс

Мы создавали искусственный интеллект, чтобы он помогал нам отвечать на вопросы. А получилось, что он уже сам начал задавать вопросы нам.

Главная опасность будущего заключается не в том, что машина однажды станет слишком умной. Гораздо опаснее другое: человек настолько привыкнет к её помощи, что перестанет замечать, как много собственного мышления он ей передал.

А потом обнаружит, что изменилось и его собственное представление о том, что значит мыслить по-человечески. И, возможно, человек постепенно начнёт думать так, как удобно машине.

Поэтому всё можно сформулировать совсем просто: пусть искусственный интеллект становится выше. Только человеку желательно не становиться ниже.