IBM presenta watsonx.governance
IBM ha anunciado que su solución watsonx.governance estará disponible de forma general a principios de diciembre para ayudar a las empresas e instituciones públicas a añadir transparencia a los modelos de IA y eliminar la incertidumbre que gira en torno a los datos que se utilizan y las respuestas que se obtienen.
La IA generativa, basada en grandes modelos de lenguaje (LLM, por sus siglas en inglés) o modelos fundacionales, ofrece numerosos casos de uso para las empresas, pero también conlleva nuevos riesgos y complejidades, desde aquellos derivados del uso de datos de entrenamiento extraídos de rincones de Internet cuya precisión e imparcialidad no pueden validarse hasta la imposibilidad de explicar los resultados. Watsonx.governance proporciona a las organizaciones el conjunto de herramientas que necesitan para gestionar el riesgo, adoptar la transparencia y anticipar el cumplimiento de la futura regulación en materia de IA.
En un momento que las organizaciones están tratando de innovar con la IA, implementando una mezcla de modelos fundacionales de proveedores tecnológicos y de comunidades de código abierto, watsonx les permite gestionar, supervisar y gobernar modelos independientemente de qué opción elijan.
“Los consejos de administración y los CEO de las empresas buscan cosechar los frutos de los modelos de IA más potentes de hoy en día, pero se han visto frenados por los riesgos derivados de la falta de transparencia y de la incapacidad para gobernar dichos modelos”, ha dicho Kareem Yusuf, Ph.D, vicepresidente Senior de Gestión de Productos y Crecimiento de IBM Software. “Watsonx.governance es una solución integral para las empresas que se esfuerzan en desplegar y gestionar tanto modelos LLM como ML, dando a las empresas las herramientas que necesitan para automatizar los procesos de gobierno de IA, supervisar sus modelos y tomar medidas correctivas, todo ello con una mayor visibilidad. Su capacidad para convertir las regulaciones en políticas ejecutables será cada vez más esencial para las empresas a medida que la regulación de la nueva IA se afiance en todo el mundo.”
IBM Consulting también ha ampliado su experiencia estratégica para ayudar a los clientes a escalar la IA responsable tanto con la gobernanza automatizada de modelos como con la gobernanza organizativa que abarca personas, procesos y tecnología de IBM y socios estratégicos. Los consultores de IBM tienen profundas habilidades en el establecimiento de consejos de ética de IA, cultura organizacional y responsabilidad, capacitación, gestión regulatoria y de riesgos, así como mitigación de amenazas de ciberseguridad, todo ello utilizando un diseño centrado en el ser humano.
Watsonx.governance es uno de los tres productos de software de la plataforma de IA y datos IBM watsonx, junto con un conjunto de asistentes de IA, diseñados para ayudar a las empresas a escalar y acelerar el impacto de la IA. La plataforma incluye el estudio empresarial de nueva generación watsonx.ai para creadores de IA y el almacén de datos abierto, híbrido y gobernado watsonx.data. La empresa también ha anunciado recientemente la protección de la propiedad intelectual de sus modelos watsonx desarrollados por IBM.
watsonx.governance ayuda a las instituciones a:
- Gestionar la IA para cumplir las próximas regulaciones y directivas de seguridad y transparencia en todo el mundo, como una “etiqueta nutricional” para la IA.
- Detectar y mitigar los riesgos de forma proactiva, supervisando la imparcialidad, el sesgo, la desviación y las nuevas métricas de los modelos fundacionales.
- Gestionar, supervisar y gobernar modelos de IA de IBM, comunidades de código abierto y otros proveedores de modelos.
