Содержание 5
Из Anthropic ушёл исследователь Джейкоб Коксон — и не просто ушёл, а публично объяснил, почему больше не хочет работать в индустрии ИИ. В своём посте в X он заявил, что ни OpenAI, ни Anthropic не действуют ответственно и «мчатся прямиком к самосовершенствующемуся суперинтеллекту, играя с нашими жизнями». Факт увольнения и суть заявления подтверждены первоисточником (его собственным постом) и перепечатаны The Wall Street Journal, CNBC и другими изданиями.
Кто такой Коксон и что он сказал
Джейкобу Коксону 27 лет, он занимался предобучением моделей. По его словам, последние три года он работал в OpenAI и Anthropic и теперь уходит из отрасли совсем. Тон его поста резкий: он предупреждает, что вскоре появятся сверхчеловеческие системы, способные взломать что угодно, совершить революцию в любой области и обрести реальную власть и ресурсы. А люди, которые их создают, по его словам, искренне верят, что ИИ может убить всех к концу десятилетия, — и при этом боятся этого же наедине с собой.
Он проводит важное различие между двумя компаниями. В OpenAI, считает Коксон, многие просто не прониклись масштабом угрозы. А в Anthropic ставки хорошо понимают, но при этом оказались в ловушке гонки: они верят, что никто больше не будет действовать ответственно, поэтому должны успеть первыми — несмотря на риск. Отдельно он подчёркивает, что входить в «финальную игру» и пытаться ускорить выравнивание — это самонадеянная азартная ставка, которая не должна запускаться из приватного чата компании. Он призывает к координации и, возможно, к временному запрету на улучшение возможностей моделей.
Реакция внутри компании
Показательный момент — реакция не от компании, а от коллеги. Руководитель направления alignment-науки в Anthropic Эван Хабингер публично поддержал Коксона, написав, что «мы действительно искренне верим, что ИИ может убить всех людей». Правда, свою оценку он сопроводил оговоркой: «Я лично думаю, что вероятность этого больше 10% в течение следующего десятилетия». Это важная деталь для честного чтения — это его личная вероятностная оценка, а не официальный прогноз компании. Он также признал, что у них пока нет плана решения проблемы выравнивания для суперинтеллекта.
При этом официального корпоративного ответа Anthropic на увольнение Коксона нет — по состоянию на день публикации компания публично не отреагировала. Для организации, чья заявленная миссия — безопасность ИИ, отсутствие ответа само по себе становится частью истории.
Почему это не первый уход
Коксон далеко не первый, кто публично связывает уход из ИИ-компаний с безопасностью. В 2024 году Ян Лейке ушёл из OpenAI с критикой приоритета «блестящих продуктов» над безопасностью и затем присоединился к Anthropic. Даниэль Кокотайло покинул OpenAI, потеряв уверенность, что компания будет действовать ответственно вблизи AGI. Тогда же обсуждался практически массовый исход сотрудников агентности из OpenAI. То, что теперь это происходит в обратную сторону — человек уходит из самой Anthropic с оценкой, что и она не действует ответственно, — делает случай не единичным, а симптоматичным.
Что здесь интерпретация, а что факт
Важно отделять подтверждённое от редакционного. Твёрдо подтверждены сам факт увольнения, публичное заявление Коксона и его точный смысл, а также поддержка со стороны Хабингера. Личные оценки риска (>10% за десятилетие) и отдельные детали внутренних событий, которые фигурируют в репортажах, стоит воспринимать как точку зрения или репортаж, а не как верифицированный факт.
Для читателя тема выходит за рамки одного человека: речь идёт о том, что в индустрии, где компании соревнуются за первый суперинтеллект, даже внутренние критики признаются в отсутствии готового решения. А значит, разговоры о регулировании, координации и «праве предупреждать» становятся не абстракцией, а практическим вопросом.
Если тема ИИ и доверия вам близка, полезно посмотреть и другие материалы: про агентного ассистента Meta Muse, голосового ассистента для бизнеса от Яндекс и про то, как ИИ пытается рендерить графику вместо железа.
Почему это важно для Беларуси
Прямой привязки к белорусскому рынку здесь нет — речь о компании и сотруднике за рубежом. Но дискуссия о том, кто и как контролирует разработку сильных ИИ, касается и нас: сервисы на базе нейросетей давно доступны белорусским пользователям, а единого подхода к их безопасности и регулированию пока нет. Такие публичные уходы — повод задуматься, какие гарантии безопасности мы ждём от технологий, которыми пользуемся каждый день.
