La IA es una herramienta que funciona de acuerdo con cómo se la desarrolla, se la entrena, se la ajusta y se la utiliza.
La gobernanza de la IA en IBM comprende estructuras de gobernanza organizacional, supervisión humana y tecnología de vanguardia para mantener la ética y las medidas de seguridad en todas las fases del ciclo de vida de un sistema de IA y mitigar un amplio espectro de riesgos.
En 2024, IBM firmó los compromisos de la Cumbre de Seúl sobre IA para la seguridad de las fronteras de la IA , un paso hacia una IA segura y confiable que IBM ha defendido y promovido durante mucho tiempo. Hoy, publicamos más detalles sobre cómo el marco de gobernanza de la IA de IBM y nuestra cultura organizacional respaldan el desarrollo y el uso responsables de la IA y se alinean con los objetivos centrales de los compromisos de Seúl.
La IA es una herramienta que funciona de acuerdo con cómo se la desarrolla, se la entrena, se la ajusta y se la utiliza. La gobernanza de la IA en IBM comprende estructuras de gobernanza organizacional, supervisión humana y tecnología de vanguardia para mantener la ética y las medidas de seguridad en todas las fases del ciclo de vida de un sistema de IA y mitigar un amplio espectro de riesgos.
IBM ofrece tecnologías basadas en IA, incluidos modelos de IA y servicios a entidades gubernamentales y corporativas en áreas como servicios financieros, telecomunicaciones y atención médica. Estas entidades confían en IBM como socio de confianza que las ayuda a promover una IA responsable con un enfoque multidisciplinario y multidimensional. Nuestra inversión holística en cultura, procesos y herramientas nos brinda una comprensión más sólida de los riesgos potenciales y nos permite emplear diversas medidas de evaluación y mitigación.
Los Principios de IBM para la confianza y la transparencia , los pilares de una IA confiable y el marco de gobernanza de la ética de la IA son las piedras angulares de nuestro enfoque en materia de seguridad y ética. Las prácticas de gestión de datos internos y el enfoque holístico que aplicamos a través de nuestro Programa de gobernanza integrada permiten un mejor seguimiento del linaje de datos y modelos, y un mayor dinamismo en la adaptación a nuevos desafíos, lo que refuerza estas mejores prácticas.
En octubre de 2024 publicamos la Guía de uso responsable de IBM para el modelo Granite de IBM, que fue reconocido por la Universidad de Stanford como uno de los LLM más transparentes del mundo.
La Guía destaca el enfoque de IBM para el desarrollo y describe las opciones de seguridad de la IA que enfrentan los desarrolladores de modelos avanzados, describe taxonomías, herramientas y recursos de mitigación de riesgos, proporciona cálculos de energía para el uso sustentable de los modelos Granite de IBM y establece cómo IBM aplica estas consideraciones al desarrollar sus modelos Granite. La Guía presenta un proceso integral para identificar, mitigar y abordar sistemáticamente los riesgos potenciales asociados con la IA a través de cuatro pasos clave:
Paso 1: Preparación de datos
Paso 2: Capacitación y alineación
Paso 3: Evaluación del modelo y detección de vulnerabilidades; y
Paso 4: Retroalimentación continua y mejoras iterativas
Puedes descargarlo aquí .
IBM seguirá desarrollando sus herramientas y marcos de trabajo para afrontar los retos técnicos y éticos de la innovación responsable. En este sentido, IBM se mantiene firme en su convicción de que los cambios transformadores de la IA solo pueden ser aprovechados por todos cuando el futuro de la IA sea abierto. A medida que se desarrolla la ciencia en torno a la seguridad, es esencial una amplia participación de la comunidad. Los modelos de IA de código abierto y con licencias permisivas son una parte clave de un ecosistema de innovación abierta para la IA, al igual que los kits de herramientas y recursos de código abierto, los conjuntos de datos abiertos, los estándares abiertos y la ciencia abierta. Además, los modelos abiertos fomentan una mayor participación y escrutinio por parte de la comunidad, lo que aumenta la probabilidad de que se identifiquen y solucionen las vulnerabilidades, y garantiza que la IA se desarrolle e implemente de forma responsable.
IBM tiene una larga trayectoria de liderazgo e innovación en la comunidad abierta. Algunos de los aspectos más destacados de este reciente proyecto son:
- El modelo IBM Granite es reconocido como uno de los LLM más transparentes del mundo , brindando información sobre fuentes de datos y métodos de capacitación, y permitiendo a los clientes tener más confianza en la seguridad de la IA que crean con nosotros.
- Lanzamos los modelos Granite Guardium , una colección de modelos diseñados para detectar riesgos en avisos y respuestas, entrenados de manera transparente y de acuerdo con los principios de Ética de IA de IBM,bajo la licencia Apache 2.0 para investigación y uso comercial.
- En mayo de 2024, IBM y Red Hat lanzaron InstructLab, un proyecto de código abierto para mejorar los LLM a través de contribuciones incrementales constantes, de manera similar a como el desarrollo de software ha funcionado en código abierto durante décadas.
- En diciembre de 2023, IBM y Meta cofundaron la AI Alliance, que ha crecido de 50 miembros fundadores y colaboradores a una comunidad internacional activa de más de 140 organizaciones líderes de la industria, las empresas emergentes, el mundo académico, la investigación y el gobierno que se unen para apoyar la innovación abierta y la ciencia abierta en IA. Por ejemplo, un grupo de trabajo clave de la AI Alliance se centra en la confianza y la seguridad para obtener el beneficio de la participación de la comunidad en esta área científica en desarrollo (consulte https://thealliance.ai/focus-areas/trust-and-safety)
- La Alianza sobre IA, que IBM cofundó en 2016, continúa desarrollando pautas para la implementación segura de modelos fundamentales .
- Desde 2018, IBM Research ha desarrollado y donado varios kits de herramientas de IA confiables a la comunidad de código abierto para que cualquier persona, en cualquier parte del mundo, pueda utilizar herramientas confiables.
- El MIT-IBM Watson AI Lab es una comunidad de científicos del MIT e IBM Research que realizan investigaciones contundentes y trabajan con organizaciones globales para conectar los algoritmos con su impacto en los negocios y la sociedad.
- El Laboratorio de Ética Tecnológica de Notre Dame-IBM se formó para abordar las diversas cuestiones éticas implicadas en el desarrollo y uso de tecnologías avanzadas, incluidas la inteligencia artificial, el aprendizaje automático (ML) y la computación cuántica.
- IBM ha desarrollado varios métodos para ayudar con problemas de sesgo, como FairIJ, Equi-tuning y FairReprogram.
- En julio de 2024, IBM se asoció con Data & Trust Alliance y otras 18 empresas para cocrear y probar los Estándares de procedencia de datos , los primeros estándares intersectoriales para metadatos que ayudan a describir el origen de los datos, el linaje y la idoneidad para un propósito.
También contribuimos activamente a diversos esfuerzos globales para dar forma a las métricas, los estándares y las mejores prácticas de la IA con y a través de alianzas, afiliaciones y gobiernos. Las alianzas destacadas aquí son solo algunas de todas las que realizamos, y a menudo entablamos nuevas alianzas y colaboraciones para promover la ética de la IA en todo el mundo. IBM News. Traducido al español
Contacto