Посмотрел выступление Андрея Карпаты, ведущего мирового эксперта в области искусственного интеллекта, на Sequoia Capital, посвященное агентам ИИ.
Выделю несколько его основных мыслей:
• Карпаты пытается понять, чем в конечном итоге является эта новая сущность — ИИ, и это явно не животное, а скорее ближе к призраку.
• То есть мы создали не интеллект животного типа, а систему статистических схем симуляций с предобучением — но это фундамент, потому что дальнейшее дообучение расширяет когнитивные способности этой сущности.
• В любом случае нам нужна адекватная ментальная модель того, чем эти сущности являются на самом деле.
• Наша среда полностью создана под людей, это проблема, если мы говорим про агентов ИИ, среду будут переделывать и переписывать под них.
• Агенты ИИ, несмотря на то что могут ошибаться, уже невероятно мощные и способные на многое.
• Поэтому суть агентной инженерии — это как человеку грамотно координировать их работу, чтобы выжимать максимум отдачи.
• Сам Карпаты отдает всю рутину работы своему агенту, контролируя лишь верхний уровень задач, без ухода в детали.
• Нужно не забывать, что, несмотря на контроль и обучение, эти системы развиваются весьма хаотично, поэтому контроль со стороны человека должен быть максимальным.
• Мы полностью зависим от лабораторий ИИ и от того, на основе чего они обучают свои модели, которые мы затем используем, — это нужно иметь в виду.
• Вообще следует не забывать, что на заре компьютерной эры люди еще не понимали, чем собственно станут компьютеры — просто мощными калькуляторами или нейросетями.
• В итоге человечество выбрало путь калькуляторов, но сегодня все переворачивается, и вполне вероятно, что именно нейросеть станет буквально хост-процессом для всего остального.
• Карпаты думает, что то, к чему мы идем, — это нейросети, которые заправляют всеми процессами и задачами, объединенные при этом в сети.
• Агент ИИ сегодня имеет свой интеллект, заложенный внутри, он берет инструкции, оценивает окружение, оценивает ваш компьютер, совершая по факту разумные действия, чтобы в итоге все работало.
• Он отмечает, что на каком-то этапе его агент перестал делать ошибки в программировании, которое Карпаты делегировал ему, и на этом этапе у него высвободилось много времени, что побудило его заняться целой кучей новых сайд-проектов.
