З одного боку, Anthropic проводить гучний збір коштів для свого IPO, а з іншого – пропонує зупинити розробку штучного інтелекту: компанія просто обережно підходить до своїх PR-акцій.

Згідно з моніторингом Dongcha Beating, Anthropic у своєму звіті "When AI Builds Itself" пропонує створити глобальний "верифікований механізм скоординованої паузи" на основі Договору про ліквідацію ракет середньої і меншої дальності про ядерний контроль. У звіті чітко висловлюється проти одностороннього призупинення розробки та наголошується, що лише за умов глобальної верифікації провідні лабораторії можуть синхронно натиснути на гальма.

Втім, із технічної точки зору, скоординоване гальмування є фундаментально нездійсненним. У той час як ядерний контроль може покладатися на супутники для спостереження за шахтами ракет, GPU мають малий розмір, їх легко приховати та вони здатні до розподілених обчислень. Щоб перевірити, чи хтось не проводить секретного навчання, єдиний шлях — впровадити інвазивний моніторинг усіх GPU, енергомереж та дата-центрів по всьому світу. Повний моніторинг не лише політично нереалістичний, але й дорівнює нав’язанню авторитаризму в галузі обчислювальної потужності.

На тлі неможливості технічної верифікації, пропозиція координованої паузи виглядає радше як "застереження про безпеку". Саме напередодні публікації звіту Anthropic, оцінена майже в трильйон доларів, завершила раунд фінансування на $65 мільярдів і подала заявку на IPO. Anthropic встановлює умову гальмування як глобально недосяжну верифікацію, даючи змогу собі безкінечно продовжувати тренування моделей та перекладаючи відповідальність за нездоланний розвиток на ще нестворений регуляторний механізм.