Было очевидно, что я не смогу пройти мимо откровений Ричарда Докинза, одного из самых известных ныне живущих эволюционных биологов, о его серии диалогов с моделью искусственного интеллекта Claude от Anthropic.
Я знаю, что профильные специалисты уже указали деду — уважаемому деду, да, — что он малость, мягко говоря, попутал: мол, принял имитацию за чистую монету.
Но, как по мне, там есть намного более ценные мысли — в особенности учитывая, что Докинз известен не только как биолог, но и как большой скептик, который всю свою жизнь призывал людей не вестись на мифы.
Поэтому некоторыми его мыслями делюсь и с вами:
• Докинз открывает текст с теста Тьюринга — старой идеи Алана Тьюринга о том, что, если машина в разговоре неотличима от человека, то вопрос «думает ли она?» можно считать практически решенным.
• Раньше это было удобной гипотезой на далекое будущее: мол, если когда-нибудь машина сможет пройти такую проверку, тогда и поговорим. Но теперь, пишет Докинз, будущее пришло. Появление LLM — ChatGPT, Gemini, Claude и других — заставляет нас пересмотреть свои взгляды на этот тест.
• Докинз сетует на человеческую непоследовательность: мол, сейчас критики говорят, что это имитация, а не реальное мышление. То есть десятилетиями нам говорили: «Если машина будет вести себя как разумная, это будет серьезный аргумент». А когда она начала вести себя как разумная, нам сказали: «Нет, это не считается».
• Дальше Докинз переходит к классическому определению сознания через Томаса Нагеля: сознательное существо — это такое существо, для которого «есть что-то, чем является быть им».
• Мы не можем влезть в «мозг» ИИ, туда, где происходит вся эта математика, а значит, не можем посмотреть на мир его «глазами». Нагель в свое время приводил в качестве примера летучую мышь: мол, мы никогда не поймем мир так, как его понимает летучая мышь.
• Докинз указывает, что ИИ уже улавливает тонкие моменты сложных контекстов и демонстрирует компетенции, которые ранее были исключительно прерогативой человека.
• Ученый предполагает, что возможное машинное сознание, если оно есть, не обязано быть похожим на человеческое. Оно может не иметь того же потока времени, телесности, памяти, боли и страха. Но это еще не значит, что там «ничего нет».
• Тут и возникает главная мысль: может быть, сознание не бинарно. Не «есть» или «нет», а шкала. Четверть сознания, половина сознания, три четверти сознания — как эволюционный континуум.
• Докинз как эволюционный биолог говорит: в природе сложные способности обычно возникают не просто так. Если бобр строит плотину, птица принимает пылевые ванны, животное избегает боли — биолог спрашивает: какую адаптивную функцию это выполняет? Как это помогает выживанию и размножению?
• Сознание — невероятно сложная и дорогая функция мозга. Но тут появляются LLM. Если Claude действительно бессознательна, но при этом демонстрирует речь, юмор, анализ, литературное понимание, философскую рефлексию и социальную гибкость, значит, получается странная вещь: сложная компетентность возможна без сознания.
• Для Докинза это почти вызов дарвинизму: если бессознательный «зомби» может быть настолько функционально успешным, почему естественный отбор вообще породил сознание?
Фух. Сделать выжимку из того потока мыслей было непросто.
Отмечу только, что статья Докинза важна не потому, что он «признал ИИ живым». Нет. Важнее другое: он ставит неудобный вопрос перед нашей картиной мира.
Если сознание — результат эволюции и обработки информации, то почему достаточно сложная искусственная система не может оказаться на той же шкале?
Я спрошу даже так: если имитация настолько сложная, что может имитировать сознание, будучи при этом «мертвой», то на каком этапе имитация перестает ею быть?
И еще: если вы не знаете, что сущность перед вами — это имитация, но при этом она ведет себя как целостный разум, то какая вам разница, имитация это или нет?
Пока LLM-ки в ваших телефонах, это мало кого может волновать, но, как только они будут в человекоподобных роботах, это станет острым вопросом — и не только абстрактно-этическим.
