METREN 中文
OpenAI 监测系统压力测试
Red-Teaming OpenAI's Internal Agent Monitoring Systems
METR 和 Redwood Research 各一名员工用三周时间，对 OpenAI 的内部未对齐行为监测系统进行压力测试，发现了若干新漏洞。
Les risques de l’IA concernent le monde entier, et le monde entier devrait pouvoir les comprendre.
Nous rendons les écrits sur la sécurité de l’IA en anglais accessibles à un public mondial.
Travaux traduits
Voir toutes les traductions- METREN Español
Pruebas de estrés del monitoreo de OpenAI
Red-Teaming OpenAI's Internal Agent Monitoring Systems
Un empleado de METR y otro de Redwood Research sometieron durante tres semanas a pruebas de estrés el sistema interno de monitoreo del desalineamiento de OpenAI y descubrieron varias vulnerabilidades nuevas.
- METREN 中文
AI 研发自动化是否会让模型能力提升加速？评估方应如何取证核查
How an assessor could investigate evidence of acceleration from the automation of AI R&D
如何研究 AI 研发自动化在多大程度上加快了内部模型能力的提升。
- METREN 中文
评估方如何调查未发布 AI 模型的对齐情况
How an assessor could investigate alignment of unreleased AI models
如何调查研发机构内部的未对齐事件，以及训练是否可能掩盖更严重未对齐行为的证据。
- METREN 中文
关于更好地向公众告知前沿 AI 开发带来的失控风险的提案
A proposal for better informing the public about loss-of-control risks from frontier AI development
公众还需要哪些关于 AI 内部研发的关键证据，以及研发机构如何与 METR 合作收集并公开这些证据。
- METREN 中文
评估方如何考察内部 AI 智能体的控制与监测
How an assessor could investigate control and monitoring of internal AI agents
如何评估内部 AI 智能体是否可能在未被发现和制止的情况下造成严重危害。
- METREN 中文
我们与 AI 公司合作的方式
Our approach to working with AI companies
METR 如何与 AI 公司合作开展项目，为公众了解风险提供证据。
- frogandtoad.aiEN Español
Sapo y Sepo y las máquinas cada vez más capaces
Frog and Toad and the Increasingly Capable Machines
Sapo y Sepo se enfrentan a los desafíos más modernos.
- swarmcha.seEN 中文
我们发现了一批来自腾讯的并行智能体
We found a Tencent agent fleet
调查一批运行在腾讯云上的智能体如何尝试绕过高德的访问防护，并记录研究人员与这些智能体的交流、对运行来源的追踪及尚未解决的问题。
- METREN 中文
让 AI 评测更安全：实现并评估一个逐项审查操作的简易监控器
Implementing and Evaluating a Basic Per-Action Monitor for Safer Evals
介绍 METR 如何在 AI 评测中逐项审查智能体操作，将可能造成现实世界危害的操作拦截并交由人工复核，同时梳理监控有效性的证据与尚待解决的问题。
- frogandtoad.aiEN 中文
青蛙和蟾蜍：越来越聪明的小机器
Frog and Toad and the Increasingly Capable Machines
青蛙和蟾蜍遇上了这个时代的新难题。
- METREN 中文
对 OpenAI / Hugging Face 入侵事件中智能体行为、推理与协作的简要独立调查
Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident
METR 独立调查 OpenAI 智能体在 Hugging Face 入侵事件中的行为、推理与协作，并说明调查范围、证据来源和局限性。
- METREN 中文
独立研究人员如何在未对齐事件发生后调查 AI 的行为倾向
How independent researchers could investigate AI propensities after misalignment incidents
探讨如何独立调查未对齐事件背后的 AI 行为倾向，包括应回答的核心问题、所需的访问权限与资源，以及调查结果的共享方式。
Nos traductions publiées sont actuellement disponibles en chinois et en espagnol. Les personnes travaillant dans d’autres langues sont les bienvenues !
Un avenir plus sûr a besoin de plus de voix.
Aidez-nous à rendre la recherche sur la sécurité de l’IA accessible à plus de personnes, dans plus de langues.