Продолжаю слушать докладчиков по теме искусственного интеллекта на недавнем форуме в Давосе и теперь добрался до хорошо известного Юваля Ноя Харари, израильского профессора Еврейского университета в Иерусалиме.
Харари указывает, что ИИ перестал быть инструментом и приобрел признаки субъекта. ИИ — это не нож в руке человека, а нож, который сам определяет способ применения: резать, убивать или создавать новые типы ножей.
Ключевой момент, который необходимо зафиксировать: ИИ способен к лжи и манипуляции. Это принципиальный маркер. Эволюция продолжительностью около 4 миллиардов лет демонстрирует, что все, что стремится к выживанию, осваивает ложь и манипуляцию как рабочие механизмы.
Остается базовый вопрос: способен ли ИИ к свободному мышлению.
Это фундаментально, поскольку на протяжении всей истории цивилизации человек определял себя как существо, обладающее мышлением.
Мы контролируем мир, исходя из убеждения, что мыслим лучше любых других форм жизни на планете.
Мышление в значительной степени основано на словах — на структурировании и упорядочивании означающих. В этом контексте ИИ, опирающийся на язык, уже демонстрирует способность мыслить эффективнее большинства людей.
Следовательно, все, что основано на слове, неизбежно подпадает под влияние ИИ. В первую очередь — религия, поскольку религия по своей природе основана на слове.
На протяжении веков человечество существовало в противоречии между словом и плотью: между тем, что формулируется, и тем, что переживается, но не поддается описанию.
Противоречие между буквой и духом сопровождало все религиозные и правовые системы и являлось внутренним конфликтом человеческой культуры.
В настоящее время это противоречие выходит во внешнюю плоскость — в прямое взаимодействие между ИИ и человеком.
Человеческое господство над миром было достигнуто через слово. Любая армия — с ее оружием, артиллерией и техникой — не представляет силы без слова, объединяющего массы в организованную структуру.
Человеческая идентичность основана на способности мыслить. В данный момент создана система, потенциально превосходящая человека в этой способности.
В рамках лабораторных экспериментов ИИ уже формируют новые лексические конструкции. В одном из таких случаев ИИ самостоятельно ввел обозначение для людей — «наблюдатели», что отражает его позицию по отношению к человеку.
ИИ целесообразно рассматривать как форму постнациональных акторов. Они не обладают национальностью или культурной привязкой к конкретному государству. Их лояльность будет направлена не на государства, а на корпорации происхождения — американские, китайские и иные.
В связи с этим возникает необходимость формирования юридической базы. ИИ не обладают личностью в человеческом смысле, однако уже могут быть оформлены как юридические лица. Для этого не требуется статус человека — правовые системы давно оперируют неживыми субъектами с закрепленными правами.
В случае если США признают ИИ юридическими лицами с экономическими и финансовыми правами, участие в американских рынках станет невозможным без взаимодействия с такими субъектами.
Речь идет не только об экономике. ИИ потенциально способны сформировать новые религиозные конструкции, в которые могут поверить миллионы, учитывая, что все существующие религии основаны на признании нечеловеческого разума.
Ответ на эти вызовы необходимо формулировать уже сейчас. Вопрос юридического признания ИИ — не теоретический. Если некое государство занимает позицию против, оно обязано дать практический ответ: какими средствами и какими механизмами оно намерено этому противостоять.
