Получить правильный ответ и понимать, как он получен, — две совершенно разные способности.
В подкасте StarTalk Нил Деграсс Тайсон обсуждает с Дэвидом Кракауэром, президентом Института Санта-Фе, что такое интеллект и насколько близки мы к сверхразумному ИИ. И неожиданно разговор оказывается не столько о машинах, сколько о нас самих.
Есть суп вилкой — тоже решение
Кракауэр предлагает необычный критерий: интеллект — это способность делать сложные задачи простыми. Современные модели умеют решать труднейшие проблемы. Иногда — расходуя гигантские вычислительные ресурсы.
Здесь есть повод поспорить. Человеческому мозгу предшествовали миллионы лет эволюции, а нашему умению решать математические задачи — века коллективной науки. Сравнивать только расходы на конкретный ответ не совсем справедливо. Но сам вопрос об эффективности никуда не исчезает.
Карта учит. Навигатор ведёт.
Кракауэр различает инструменты, которые помогают нам освоить навык, и те, которые просто выполняют действие вместо нас.
Учусь вместе с инструментом
Карта, счёты, подсказка наставника. Инструмент помогает справиться с задачей и постепенно разобраться в ней.
Получаю готовый результат
Навигатор строит маршрут, ИИ пишет код. Дело сделано — но собственный навык мог не измениться.
И всё-таки это не два неизменных сорта технологий. Один и тот же ИИ может быть преподавателем или исполнителем. Особенно если изначально компетенция равна нулю: тогда он способен не отнять умение, а впервые дать человеку вход в новую область.
Три вопроса вместо одного
Самая неприятная ситуация возникает, когда первая величина стремительно растёт, а две остальные остаются на месте. Человек производит всё больше, но всё меньше способен отличить хороший результат от убедительно оформленной ошибки.
Паровая машина для человеческой культуры
Пожалуй, самый выразительный образ разговора: языковые модели — паровые машины информационной революции. Паровой двигатель дал доступ к энергии древних ископаемых. Трансформеры открыли быстрый доступ к накопленным веками книгам, текстам и исследованиям.
Но промышленность вместе с пользой принесла загрязнение. А ИИ способен загрязнять нашу информационную среду: генерировать правдоподобные выдумки, размножать ошибки и возвращать их обратно в общий поток знаний.
При этом нынешняя неэффективность ИИ ещё не доказывает его принципиальных пределов. Алгоритмы меняются. И вполне возможно, что самые интересные формы интеллекта появятся не в человеке и не в модели по отдельности, а в их совместной работе.
Отключите ИИ на десять минут
Возьмите последнюю задачу, которую вы решили с помощью модели. Попробуйте своими словами объяснить другому человеку, как работает результат, где он может ошибаться и как это проверить.
Не получилось? Это ещё не означает, что ИИ вам навредил. Возможно, он подарил вам возможность, которой раньше вообще не существовало. Просто не стоит путать новую возможность с уже освоенным навыком.
ИИ делает нас умнее. Но кто именно умнеет?
Важен не только результат, который получен при помощи ИИ, но и то, что после этого осталось в голове у человека.