Chubut Digital

Este verano, OpenAI y Anthropic colaboraron en una evaluación conjunta pionera: cada uno realizó sus evaluaciones internas de seguridad y desalineación en los modelos públicos del otro y ahora compartimos los resultados. Creemos que este enfoque promueve una evaluación responsable y transparente, lo que ayuda a garantizar que los modelos de cada laboratorio se sigan probando en escenarios nuevos y desafiantes. Desde entonces, hemos lanzado GPT‑5 , que muestra mejoras sustanciales en áreas como la adulación, la alucinación y la resistencia al uso indebido, demostrando los beneficios de las técnicas de seguridad basadas en el razonamiento. El objetivo de esta evaluación externa es ayudar a identificar brechas que, de otro modo, podrían pasar desapercibidas, profundizar nuestra comprensión de la posible desalineación y demostrar cómo los laboratorios pueden colaborar en cuestiones de seguridad y alineación.