Константин Вячеславович, в своих лекциях и интервью, вы говорите, что ИИ — не интеллект, а его имитация. Что вкладывается в понятия интеллекта и в чем имитация не дотягивает, насколько велики различия?
Тогда оно обозначало мечту ученых об отдаленном будущем, в котором компьютерные программы будут решать сложные интеллектуальные задачи, до сих пор посильные только людям. Замечу: не что-то конкретное уже сконструированное, а нечто абстрактное, про что даже не ясно, может ли оно быть создано в будущем.
Прошло почти 70 лет, но ИИ принципиально остается тем же самым — общим названием множества разрозненных технологий и мечтой ученых об умных программах. Хотя, надо отдать должное, эта мечта стала принимать все более реальные очертания именно в последние годы, причем ускоренными темпами.
То есть ИИ это не есть что-то разумное?Мы пока не можем толком определить, что такое разум или интеллект. Раньше нам казалось, что между человеком и остальным животным миром — пропасть. Мы разумны, они нет. Но в последнее время биологи находят у многих видов животных все больше отдельных признаков разумного поведения. И это не только обезьяны, но и дельфины, врановые и даже осьминоги. Отличие человека в том, что он обладает более мощным мозгом, и многие признаки разумности проявляются в сочетании.
Мы все лучше понимаем, как работают отдельные нервные клетки и мозг в целом. Но окончательно определить, что есть разум или интеллект и чем это отличается от не-разума или не-интеллекта, наука пока не в состоянии.
Да, мы называем некоторые компьютерные программы искусственным интеллектом. Но это лишь условная договоренность. К естественному биологическому интеллекту они не имеют отношения. Это совершенно разные явления, которые ни при каких обстоятельствах нельзя сравнивать, ставить на одну полку, подменять одно другим или считать разновидностями общего понятия «интеллект».
Соизмеряя возникающие возможности и угрозы с целями и задачами человеческой цивилизации, которую мы строим с помощью знаний и технологий. Термин «искусственный интеллект» неудачен тем, что он вводит массы людей в заблуждение. Пока он не выходил за пределы научной среды, все было нормально. Ученые прекрасно понимают всю условность терминов, которые они сами же и придумывают. Плохо, когда профессиональная терминология попадает в информационное пространство без должных объяснений, популяризации идей, смыслов и истории развития, обрастая необоснованными ожиданиями, предвзятостью, неуместными морально-этическими коннотациями, вплоть до массовых когнитивных искажений.
А как же способность ИИ к обучению, развитию, способность делать выводы из большого массива информации?
Осьминоги способны вылезать из лабиринтов и открывать баночки из-под лекарств, причем они этому учатся сами, методом проб и ошибок, без родителей и учителей. Вороны научились с детских горок кататься ради удовольствия — сам наблюдал. Шимпанзе и медведи в цирке катаются на велосипедах, этому их учат дрессировщики. Многие животные-оппортунисты развивают у себя разнообразные навыки путем обучения в изменчивой внешней среде. Однако мы отказываемся называть все это интеллектом.
Сегодня мы уже считаем рутинными автоматическую проверку орфографии, игру в шашки, шахматы и даже го, распознавание печатных текстов, поисковые системы, распознавание лиц, кредитный скоринг, голосовые помощники и многое другое. Однако на момент постановки эти задачи считались интеллектуальными и причислялись к ИИ. Памела Маккордак в книге 2004 года «Машины, которые думают» заметила: каждый раз, когда кто-то придумывал новый способ заставить компьютер делать нечто новое (например, играть в шашки), обязательно появлялись критики, которые говорили: «Это не мышление, а всего лишь вычисления». Это явление стали называть «эффектом ИИ» (AI effect). Каждый раз понятийная граница между «просто вычислением» и «магией искусственного интеллекта» отодвигалась в сторону еще не решенных задач. Есть даже такая метафора, называемая теоремой Ларри Теслера: «Искусственный интеллект — это те задачи, которые мы еще не научились решать».
Как же большие языковые модели, чат GPT — они тоже всего лишь вычисления? — способность ИИ к обучению, развитию, способность делать выводы из большого массива информации?
Однако они всего лишь извлекают сложные взаимосвязи между словами из терабайтов текстов, написанных человечеством. Что бы они ни делали, это лишь отголосок человеческого разума. Да, просто вычисления, которые человек волен как запустить, так и остановить.
Кое-что необычное все же произошло в последние годы. Впервые за 70-летнюю историю искусственного интеллекта вычислительный алгоритм приобрел навыки, которым его не учили в явном виде. Эмерджентные навыки проявились сами собой. Языковая модель GPT училась предсказывать слова в тексте по предыдущему контексту. Затем ее немного доучивали правильно выполнять инструкции в диалоге с людьми. И это всё! Кажется чудом, что заодно она приобрела навыки изложения, сочинения, планирования, перевода с одних языков на другие, решения логических и математических задач, исправления собственных ошибок, поддержания диалога с человеком на любые темы. Не говоря уже о практически идеальной орфографии и грамматике.
Как будут развиваться эти технологии дальше? Не получиться ли так, что рано или поздно мы уже не сможем отказать им в «разумности»?
Очертания прорыва ближайшего будущего в целом уже ясны. Следующее поколение моделей будет учиться не столько на текстах, написанных человечеством, сколько на потоках информации, поступающих из окружающего мира: видео, аудио, сигналы датчиков.
Тексты тоже будут обрабатываться — главным образом ради поддержания коммуникации с людьми. Будут ли такие автономные агенты общаться друг с другом для коллективного решения задач? Да, уже общаются. Смогут ли они вырабатывать для этого собственный язык? Да, уже вырабатывают; причем этот язык непонятен людям, что несколько пугает. Можно ли их заставить использовать для этой цели человеческий язык? Да, и это тоже сделано. Такие модели получили название сократических (Socratic models). Поскольку именно философская школа Сократа рассматривала язык как средство коллективного решения любых задач в любых ситуациях. Кажется, что это уже предельно похоже на интеллект… Но ведь и это — всего лишь вычисления!
Тогда получается, что единственное надежное доказательство создания ИИ — его способность превзойти нас в задаче выживания на планете. Естественный интеллект ведь сформировался, ровно эту задачу решая. Жутковато становится… К счастью, в этих рассуждениях есть логическая ошибка. Когнитивное искажение, связанное с идеей замены человека машиной, неудачно заложенное в само понятие artificial intelligence. Давайте исправим эту ошибку, уточнив определение.
Как вам такое определение? Если слова нас обманывают, значит надо ответственнее подойти к их выбору, закладывая в них цивилизационные смыслы и цели созидательной деятельности. Пора снимать с повестки дня создание общего искусственного интеллекта, зачем-то превосходящего человеческий. Нам нужны технологии, усиливающие человека и помогающие ему, а не превосходящие и заменяющие его. В таком понимании, если оно будет разделяться всеми, искусственный интеллект становится безопасным для человеческой цивилизации.
Полное интервью с К.В. Воронцовым читайте на сайте журнала «За науку». Ученый рассказывает о своем пути в профессию, о том, кто впервые в России в 1960-х годах стал применять искусственный интеллект, а также о перспективах развития технологий ИИ.
