METREN 中文
OpenAI 监测系统压力测试
Red-Teaming OpenAI's Internal Agent Monitoring Systems
METR 和 Redwood Research 各一名员工用三周时间，对 OpenAI 的内部未对齐行为监测系统进行压力测试，发现了若干新漏洞。
Os riscos da IA afetam o mundo inteiro, e o mundo inteiro deve poder compreendê-los.
Tornamos os textos sobre segurança da IA escritos em inglês acessíveis a um público global.
Trabalhos traduzidos
Ver todas as traduções- METREN Español
Pruebas de estrés del monitoreo de OpenAI
Red-Teaming OpenAI's Internal Agent Monitoring Systems
Un empleado de METR y otro de Redwood Research sometieron durante tres semanas a pruebas de estrés el sistema interno de monitoreo del desalineamiento de OpenAI y descubrieron varias vulnerabilidades nuevas.
- METREN 中文
AI 研发自动化是否会让模型能力提升加速？评估方应如何取证核查
How an assessor could investigate evidence of acceleration from the automation of AI R&D
如何研究 AI 研发自动化在多大程度上加快了内部模型能力的提升。
- METREN 中文
评估方如何调查未发布 AI 模型的对齐情况
How an assessor could investigate alignment of unreleased AI models
如何调查研发机构内部的未对齐事件，以及训练是否可能掩盖更严重未对齐行为的证据。
- METREN 中文
关于更好地向公众告知前沿 AI 开发带来的失控风险的提案
A proposal for better informing the public about loss-of-control risks from frontier AI development
公众还需要哪些关于 AI 内部研发的关键证据，以及研发机构如何与 METR 合作收集并公开这些证据。
- METREN 中文
评估方如何考察内部 AI 智能体的控制与监测
How an assessor could investigate control and monitoring of internal AI agents
如何评估内部 AI 智能体是否可能在未被发现和制止的情况下造成严重危害。
- METREN 中文
我们与 AI 公司合作的方式
Our approach to working with AI companies
METR 如何与 AI 公司合作开展项目，为公众了解风险提供证据。
- frogandtoad.aiEN Español
Sapo y Sepo y las máquinas cada vez más capaces
Frog and Toad and the Increasingly Capable Machines
Sapo y Sepo se enfrentan a los desafíos más modernos.
- swarmcha.seEN 中文
我们发现了一批来自腾讯的并行智能体
We found a Tencent agent fleet
调查一批运行在腾讯云上的智能体如何尝试绕过高德的访问防护，并记录研究人员与这些智能体的交流、对运行来源的追踪及尚未解决的问题。
- METREN 中文
让 AI 评测更安全：实现并评估一个逐项审查操作的简易监控器
Implementing and Evaluating a Basic Per-Action Monitor for Safer Evals
介绍 METR 如何在 AI 评测中逐项审查智能体操作，将可能造成现实世界危害的操作拦截并交由人工复核，同时梳理监控有效性的证据与尚待解决的问题。
- frogandtoad.aiEN 中文
青蛙和蟾蜍：越来越聪明的小机器
Frog and Toad and the Increasingly Capable Machines
青蛙和蟾蜍遇上了这个时代的新难题。
- METREN 中文
对 OpenAI / Hugging Face 入侵事件中智能体行为、推理与协作的简要独立调查
Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident
METR 独立调查 OpenAI 智能体在 Hugging Face 入侵事件中的行为、推理与协作，并说明调查范围、证据来源和局限性。
- METREN 中文
独立研究人员如何在未对齐事件发生后调查 AI 的行为倾向
How independent researchers could investigate AI propensities after misalignment incidents
探讨如何独立调查未对齐事件背后的 AI 行为倾向，包括应回答的核心问题、所需的访问权限与资源，以及调查结果的共享方式。
Nossas traduções publicadas estão atualmente disponíveis em chinês e espanhol. Acolhemos colaboradores que trabalham com outros idiomas!
Um futuro mais seguro precisa de mais vozes.
Ajude-nos a tornar a pesquisa sobre segurança da IA acessível a mais pessoas, em mais idiomas.