Дарио Амодей по праву признан одним из самых глубоких, проницательных и осторожных мыслителей в мировой борьбе за создание общего искусственного интеллекта (AGI).
Будучи сооснователем и генеральным директором компании Anthropic, он категорически отказывается сводить прогресс к банальной погонке за вычислительной мощностью, сделав главным приоритетом своей жизни концепцию «конституционной безопасности» нейросетей.
В индустрии, где скорость коммерческих релизов нередко превалирует над элементарной предосторожностью, Амодей резко выделяется среди лидеров отрасли своей бескомпромиссной позицией: большие языковые модели обязаны быть прежде всего безопасными, предсказуемыми и сонаправленными с гуманистическими идеалами.
Академическая школа и эпоха триумфа в OpenAI
Фундаментом уникального подхода Амодея служит безупречная естественнонаучная база. Защитив докторскую диссертацию по физике в Принстонском университете и проведя серию постдокторских исследований в области биофизики в Стэнфорде, он совершил абсолютно органичный переход в сферу глубокого обучения.
После продуктивной исследовательской работы в лабораториях Baidu и Google Brain Амодей присоединился к ключевой команде OpenAI.
В стенах организации он занял пост вице-президента по исследованиям, лично возглавив инженерные и теоретические коллективы, создавшие революционные модели GPT-2 и GPT-3, которые навсегда изменили мировое понимание машинной генерации текста.
Этический раскол и рождение Anthropic
Несмотря на планетарный успех продуктов OpenAI, Амодей испытывал все более глубокую тревогу по поводу стремительной коммерциализации проекта и игнорирования системных рисков по мере взрывного роста автономности алгоритмов.
В 2021 году вместе со своей сестрой Даниэлой Амодей и группой ведущих исследователей-единомышленников он покинул OpenAI ради создания независимой лаборатории Anthropic. Миссия формулировалась предельно твердо: построить надежный, честный и гарантированно безвредный искусственный интеллект.
Под его руководством компания разработала знаменитое семейство моделей Claude, функционирующее на базе Конституционного ИИ (Constitutional AI). Этот инновационный метод позволяет нейросети самостоятельно контролировать свои рассуждения по набору строгих этических постулатов, сводя к минимуму вероятность токсичных, манипулятивных или опасных ответов.
Видение глобальной безопасности для будущих поколений
Для Дарио Амодея развитие искусственного интеллекта — это не рядовое обновление программного обеспечения, а технология с прямыми экзистенциальными последствиями для судьбы цивилизации.
Его управление отличается исключительной открытостью: он последовательно выступает за жесткое государственное регулирование отрасли и регулярно принимает участие в закрытых правительственных слушаниях и международных саммитах по нейтрализации угроз сверхразумных систем.
Его философия гласит: технологическая сингулярность неизбежна, однако она принесет благо лишь в том случае, если мы научимся проектировать системы, безоговорочно уважающие фундаментальные этические границы человечества, делая будущее ИИ столь же безопасным, сколь и блистательным.
This post is also available in: