Компания Anthropic объявила о партнерстве с подразделением Accenture Faculty для проведения независимой оценки своих передовых моделей. В рамках инициативы «встроенной оценки» (embedded evaluation) эксперты получат доступ к внутренним процессам разработки, обучению моделей и принятию решений, что позволит им проверять соблюдение стандартов безопасности и выявлять потенциальные риски. Anthropic и Accenture намерены инвестировать не менее 1 млрд долларов каждая в развитие данного направления в ближайшие пять лет. В отличие от внешнего аудита, встроенные оценщики будут работать внутри компании, обладая доступом, сопоставимым с уровнем сотрудников. Anthropic подчеркивает, что это партнерство не снимает с разработчика ответственности за безопасность моделей, а делает процесс контроля более прозрачным и проверяемым. На текущем этапе стандарты доступа и отчетности для таких экспертов еще не сформированы, поэтому Anthropic планирует сотрудничать с различными организациями, включая некоммерческие структуры, такие как METR.