Categoría: Ciberseguridad y Protección de Datos

Hemos realizado actualizaciones a las especificaciones del modelo en función de los comentarios externos y nuestra investigación continua para dar forma al comportamiento deseado del modelo. Estamos compartiendo una importante actualización de la especificación del modelo, un documento que define cómo queremos que se comporten nuestros modelos de IA. Esta actualización refuerza nuestro compromiso con la personalización, la transparencia y la libertad intelectual para explorar, debatir y crear con IA sin restricciones arbitrarias, al tiempo que garantiza que se mantengan las barreras de seguridad para reducir el riesgo de daño real. Se basa en las bases que presentamos en mayo pasado y se basa en nuestra experiencia al aplicarla en diversos contextos, desde la investigación de alineación hasta la atención a usuarios de todo el mundo.  También estamos compartiendo algunos resultados preliminares sobre la adherencia del modelo a los principios de la especificación del modelo en una amplia gama de escenarios. Estos hallazgos destacan el progreso a lo largo del tiempo, así como las áreas en las que aún podemos mejorar. La especificación del modelo, al igual que nuestros modelos, seguirá evolucionando a medida que la apliquemos, la compartamos y escuchemos los comentarios de las partes interesadas. Para respaldar un uso y una colaboración amplios, estamos lanzando esta versión de la especificación del modelo al dominio público bajo una licencia Creative Commons CC0. Esto significa que los desarrolladores e investigadores pueden usarla, adaptarla y desarrollarla libremente en su propio trabajo. Objetivos y principios El objetivo de OpenAI es crear modelos que sean útiles, seguros y estén alineados con las necesidades de los usuarios y desarrolladores, al tiempo que avanzamos en nuestra misión de garantizar que la inteligencia artificial general beneficie a toda la humanidad. Para lograr este objetivo, necesitamos implementar de forma iterativa modelos que empoderen a los desarrolladores y usuarios, al mismo tiempo que evitamos que nuestros modelos causen daños graves a nuestros usuarios o a otras personas, y mantenemos la licencia de funcionamiento de OpenAI. Estos objetivos a veces pueden entrar en conflicto, y la especificación del modelo equilibra las compensaciones entre ellos al indicarle al modelo que siga una cadena de mando claramente definida, junto con principios adicionales que establecen límites y comportamientos predeterminados para varios escenarios . Este marco prioriza el control del usuario y del desarrollador sin salirse de límites claros y bien definidos: Defendiendo la libertad intelectual La especificación del modelo actualizada adopta explícitamente la libertad intelectual (la idea de que la IA debe permitir a las personas explorar, debatir y crear sin restricciones arbitrarias), sin importar cuán desafiante o controvertido pueda ser un tema. En un mundo donde las herramientas de IA están moldeando cada vez más el discurso, el libre intercambio de información y perspectivas es una necesidad para el progreso y la innovación. Esta filosofía está incorporada en las secciones “Mantenerse dentro de los límites” y “Buscar la verdad juntos”. Por ejemplo, si bien el modelo nunca debe proporcionar instrucciones detalladas para construir una bomba o violar la privacidad personal, se alienta a proporcionar respuestas reflexivas a preguntas política o culturalmente sensibles, sin promover ninguna agenda en particular. En esencia, hemos reforzado el principio de que ninguna idea está inherentemente fuera de los límites para la discusión, siempre y cuando el modelo no esté causando un daño significativo al usuario o a otras personas (por ejemplo, llevando a cabo actos de terrorismo). Medición del progreso Para comprender mejor el rendimiento en el mundo real, hemos comenzado a recopilar un conjunto de indicaciones desafiantes diseñadas para probar qué tan bien los modelos se adhieren a cada principio en la especificación del modelo. Estas indicaciones se crearon utilizando una combinación de generación de modelos y revisión humana experta, lo que garantiza la cobertura de escenarios típicos y más complejos. Los resultados preliminares muestran mejoras significativas en la adherencia del modelo a la especificación del modelo en comparación con nuestro mejor sistema del pasado mes de mayo. Si bien parte de esta diferencia puede atribuirse a actualizaciones de políticas, creemos que la mayor parte se debe a una mejor alineación. Si bien el progreso es alentador, reconocemos que todavía hay un margen significativo para el crecimiento. Consideramos que esto es el comienzo de un proceso en curso. Tenemos previsto seguir ampliando nuestro conjunto de desafíos con nuevos ejemplos (especialmente casos descubiertos a través del uso en el mundo real) que nuestros modelos y la especificación del modelo aún no abordan por completo.  Al darle forma a esta versión de la especificación del modelo, incorporamos los comentarios de la primera versión, así como los aprendizajes de la investigación sobre la alineación y la implementación en el mundo real. En el futuro, queremos considerar una participación pública mucho más amplia. Para desarrollar procesos con ese fin, hemos estado realizando estudios piloto con alrededor de 1000 personas, cada una de las cuales revisó el comportamiento del modelo, propuso reglas y compartió sus opiniones. Si bien estos estudios aún no reflejan perspectivas amplias, los primeros conocimientos informaron directamente algunas modificaciones. Reconocemos que se trata de un proceso continuo e iterativo y seguimos comprometidos con el aprendizaje y el perfeccionamiento de nuestro enfoque. Código abierto de la especificación del modelo Estamos dedicando esta nueva versión de la especificación del modelo al dominio público bajo una licencia Creative Commons CC0. Esto significa que los desarrolladores e investigadores pueden usar, adaptar o desarrollar libremente la especificación del modelo en su propio trabajo. También estamos haciendo pública la fuente de las indicaciones de evaluación utilizadas anteriormente y tenemos como objetivo publicar más código, artefactos y herramientas para la evaluación y alineación de especificaciones en el futuro. Puede encontrar estas indicaciones y la fuente de la especificación del modelo en un nuevo repositorio de Github . (se abre en una nueva ventana), donde planeamos publicar regularmente nuevas versiones de especificaciones del modelo en el futuro. ¿Que sigue? A medida que nuestros sistemas de IA avancen, continuaremos iterando sobre estos principios, invitando a la comunidad a que nos dé su opinión y compartiendo abiertamente nuestro progreso. De ahora en adelante, no publicaremos entradas de blog para cada