top of page
Buscar
  • Foto del escritordupla

El momento generacional con la inteligencia artificial generativa: Una guía para CIOs y CTOs



Muévete rápidamente para determinar la postura de la empresa ante la adopción de la inteligencia artificial generativa y desarrolla comunicaciones prácticas y acceso adecuado para los empleados.


Reimagina el negocio e identifica casos de uso que construyan valor a través de una mayor productividad, crecimiento y nuevos modelos de negocio. Desarrolla una capacidad de "inteligencia financiera artificial" (FinAI en inglés) que pueda estimar los costos y rendimientos reales de la inteligencia artificial generativa.

Reimagina la función tecnológica y enfocate en desarrollar rápidamente capacidades de inteligencia artificial generativa en el desarrollo de software, acelerar la reducción de la deuda técnica y reducir drásticamente el esfuerzo manual en las operaciones de TI.





Aprovecha los servicios existentes o adapta modelos de inteligencia artificial generativa de código abierto para desarrollar capacidades propietarias (crear y operar tus propios modelos de inteligencia artificial generativa puede costar decenas o cientos de millones de dólares, al menos a corto plazo).

Actualiza la arquitectura tecnológica empresarial para integrar y gestionar modelos de inteligencia artificial generativa y orquestar cómo funcionan entre sí y con los modelos, aplicaciones y fuentes de datos de inteligencia artificial y aprendizaje automático (ML) existentes.


Desarrolla una arquitectura de datos que permita el acceso a datos de calidad al procesar fuentes de datos estructurados y no estructurados.

Crea un equipo centralizado y multidisciplinario de plataforma de inteligencia artificial generativa para proporcionar modelos aprobados a equipos de productos y aplicaciones a pedido.


Invierte en mejorar las habilidades de roles clave, como desarrolladores de software, ingenieros de datos, ingenieros de operaciones de aprendizaje automático (MLOps en inglés) y expertos en seguridad, así como en la fuerza laboral no técnica en general. Pero debes adaptar los programas de capacitación según los roles y niveles de competencia debido al impacto variable de la inteligencia artificial generativa.


Evalúa el nuevo panorama de riesgos y establece prácticas de mitigación continuas para abordar modelos, datos y políticas.


1. Determina la postura de la empresa frente a la adopción de la inteligencia artificial generativa


A medida que el uso de la inteligencia artificial generativa se vuelve cada vez más generalizado, hemos visto que los CIOs y CTOs responden bloqueando el acceso de los empleados a aplicaciones públicamente disponibles para limitar el riesgo. Al hacerlo, estas empresas corren el riesgo de perder oportunidades de innovación, e incluso algunos empleados perciben estas medidas como limitantes para desarrollar habilidades importantes.


En cambio, los CIOs y CTOs deberían trabajar con los líderes de riesgo para equilibrar la necesidad real de mitigar el riesgo con la importancia de desarrollar habilidades en inteligencia artificial generativa en el negocio. Esto requiere establecer la postura de la empresa con respecto a la inteligencia artificial generativa al consensuar los niveles de riesgo con los que la empresa está cómoda y cómo encaja la inteligencia artificial generativa en la estrategia general del negocio. Este paso permite a la empresa determinar rápidamente las políticas y pautas para toda la organización.


Una vez que las políticas estén claramente definidas, los líderes deben comunicarlas a la empresa, y los CIOs y CTOs deben proporcionar a la organización el acceso apropiado y pautas fáciles de usar. Algunas empresas han implementado comunicaciones firmes sobre la inteligencia artificial generativa en toda la empresa, han brindado amplio acceso a la inteligencia artificial generativa para grupos de usuarios específicos, han creado ventanas emergentes que advierten a los usuarios cada vez que ingresan datos internos en un modelo y han creado una página de pautas que aparece cada vez que los usuarios acceden a un servicio de inteligencia artificial generativa disponible públicamente.


2. Identifica casos de uso que construyan valor a través de una mayor productividad, crecimiento y nuevos modelos de negocio


Los CIOs y CTOs deben ser el antídoto para la frenética "muerte por casos de uso" que ya vemos en muchas empresas. Pueden ser de gran ayuda al trabajar con el CEO, el CFO y otros líderes empresariales para reflexionar sobre cómo la inteligencia artificial generativa desafía los modelos de negocio existentes, abre puertas a nuevos modelos y crea nuevas fuentes de valor. Con un profundo conocimiento de las posibilidades técnicas, los CIOs y CTOs deben identificar las oportunidades y problemas más valiosos en toda la empresa que pueden beneficiarse de la inteligencia artificial generativa, y aquellos que no. En algunos casos, la inteligencia artificial generativa no es la mejor opción.


La investigación de McKinsey, por ejemplo, muestra que la inteligencia artificial generativa puede aumentar la productividad en ciertos casos de uso de marketing (por ejemplo, analizando datos no estructurados y abstractos sobre las preferencias del cliente) en aproximadamente un 10 por ciento y el soporte al cliente (por ejemplo, mediante chatbots inteligentes) en hasta un 40 por ciento. Los CIOs y CTOs pueden ser particularmente útiles para desarrollar una perspectiva sobre cómo clasificar mejor los casos de uso, ya sea por dominio (como el viaje del cliente o el proceso empresarial) o por tipo de caso de uso (como la creación de contenido creativo o los agentes virtuales), para que la inteligencia artificial generativa tenga el mayor valor. Identificar oportunidades no será la tarea más estratégica, ya que existen muchos casos de uso de inteligencia artificial generativa, pero, dado las limitaciones iniciales de talento y capacidades, los CIOs y CTOs deberán proporcionar estimaciones de viabilidad y recursos para ayudar a secuenciar las prioridades de la inteligencia artificial generativa.


Para brindar este nivel de asesoramiento, los líderes tecnológicos deben trabajar con el negocio para desarrollar una capacidad de FinAI que estime los costos y rendimientos reales de las iniciativas de inteligencia artificial generativa. Los cálculos de costos pueden ser particularmente complejos porque la economía unitaria debe tener en cuenta los costos de múltiples modelos y proveedores, las interacciones del modelo (donde una consulta puede requerir entrada de múltiples modelos, cada uno con su propia tarifa), los cargos por uso continuo y los costos de supervisión humana.


3. Reimagina la función tecnológica

La inteligencia artificial generativa tiene el potencial de transformar por completo cómo funciona la función tecnológica. Los CIOs y CTOs deben revisar exhaustivamente el impacto potencial de la inteligencia artificial generativa en todas las áreas tecnológicas, pero es importante actuar rápidamente para adquirir experiencia y experiencia. Hay tres áreas en las que pueden enfocar sus energías iniciales:


Desarrollo de software: la investigación de McKinsey muestra que el soporte de codificación de la inteligencia artificial generativa puede ayudar a los ingenieros de software a desarrollar código un 35 a un 45 por ciento más rápido, refactorizar código un 20 a un 30 por ciento más rápido y documentar código un 45 a un 50 por ciento más rápido. La inteligencia artificial generativa también puede automatizar el proceso de prueba y simular casos extremos, lo que permite a los equipos desarrollar software más resistente antes de su lanzamiento, y acelerar la integración de nuevos desarrolladores (por ejemplo, haciendo preguntas de inteligencia artificial generativa sobre una base de código). Capturar estos beneficios requerirá un amplio entrenamiento (ver más en la acción 8) y automatización de tuberías de integración y implementación a través de prácticas de DevSecOps para gestionar el aumento en el volumen de código.

Deuda técnica: la deuda técnica puede representar del 20 al 40 por ciento del presupuesto tecnológico y ralentizar significativamente el ritmo de desarrollo. Los CIOs y CTOs deben revisar sus balances de deuda técnica para determinar cómo las capacidades de inteligencia artificial generativa, como la refactorización de código, la traducción de código y la generación automática de casos de prueba, pueden acelerar la reducción de la deuda técnica.


Operaciones de TI (ITOps): los CIOs y CTOs deberán revisar sus esfuerzos de productividad en ITOps para determinar cómo la inteligencia artificial generativa puede acelerar los procesos. Las capacidades de la inteligencia artificial generativa son particularmente útiles en la automatización de tareas como restablecimiento de contraseñas, solicitudes de estado o diagnósticos básicos a través de agentes de autoservicio; acelerar la clasificación y resolución a través de una mejor ruta; proporcionar contexto útil, como tema o prioridad, y generar respuestas sugeridas; mejorar la observabilidad a través del análisis de flujos de registros para identificar eventos que realmente requieren atención; y desarrollar documentación, como procedimientos operativos estándar, autopsias después del incidente o informes de rendimiento.


4. Aprovecha los servicios existentes o adapta modelos de inteligencia artificial generativa de código abierto


Existe una variación de la clásica decisión de "alquilar, comprar o construir" cuando se trata de estrategias para desarrollar capacidades de inteligencia artificial generativa. La regla básica se mantiene: una empresa debe invertir en una capacidad de inteligencia artificial generativa donde pueda crear una ventaja propia para el negocio y acceder a servicios existentes para aquellos que son más como productos básicos.


Los CIOs y CTOs pueden pensar en las implicaciones de estas opciones como tres arquetipos:


Taker: utiliza modelos públicamente disponibles a través de una interfaz de chat o una API, con poca o ninguna personalización. Buenos ejemplos incluyen soluciones listas para usar para generar código (como GitHub Copilot) o para ayudar a los diseñadores con la generación y edición de imágenes (como Adobe Firefly). Este es el arquetipo más simple tanto en términos de ingeniería como de necesidades de infraestructura y generalmente es el más rápido de implementar y ejecutar. Estos modelos son básicamente productos básicos que se basan en proporcionar datos en forma de indicaciones al modelo público.


Shaper: integra modelos con datos y sistemas internos para generar resultados más personalizados. Un ejemplo es un modelo que respalda las transacciones de ventas al conectar herramientas de inteligencia artificial generativa con la gestión de relaciones con los clientes (CRM en inglés) y los sistemas financieros para incorporar el historial de ventas previas y el compromiso de los clientes. Otro ejemplo es ajustar el modelo con documentos internos de la empresa e historial de chat para actuar como asistente de un agente de soporte al cliente. Para las empresas que buscan ampliar las capacidades de inteligencia artificial generativa, desarrollar capacidades más propietarias o cumplir con necesidades más altas de seguridad o cumplimiento, el arquetipo de Shaper es apropiado.


Existen dos enfoques comunes para integrar datos con modelos de inteligencia artificial generativa en este arquetipo. Uno es "llevar el modelo a los datos", donde el modelo se aloja en la infraestructura de la organización, ya sea en las instalaciones o en el entorno de la nube. Cohere, por ejemplo, implementa modelos base en la infraestructura de la nube de los clientes, lo que reduce la necesidad de transferencia de datos. El otro enfoque es "llevar los datos al modelo", donde una organización puede agregar sus datos y implementar una copia del modelo grande en la infraestructura de la nube. Ambos enfoques logran el objetivo de proporcionar acceso a los modelos base, y la elección entre ellos dependerá de la huella de la carga de trabajo de la organización.


Maker: construye un modelo base para abordar un caso de negocio discreto. Construir un modelo base es caro y complejo, requiere grandes volúmenes de datos, una profunda experiencia y una gran potencia informática. Esta opción requiere una inversión única sustancial, decenas o incluso cientos de millones de dólares, para construir y entrenar el modelo. El costo depende de varios factores, como la infraestructura de entrenamiento, la elección de la arquitectura del modelo, el número de parámetros del modelo, el tamaño de los datos y los recursos expertos.


Cada arquetipo tiene sus propios costos que los líderes tecnológicos deberán tener en cuenta (Exhibición 1). Si bien los nuevos desarrollos, como enfoques eficientes de entrenamiento de modelos y costos de computación de unidades de procesamiento gráfico (GPU en inglés) más bajos con el tiempo, están reduciendo los costos, la inherente complejidad del arquetipo Maker significa que pocas organizaciones lo adoptarán a corto plazo. En cambio, la mayoría recurrirá a alguna combinación de Taker, para acceder rápidamente a un servicio básico, y Shaper, para desarrollar una capacidad propietaria sobre los modelos base.


5. Actualiza la arquitectura tecnológica empresarial para integrar y gestionar modelos de inteligencia artificial generativa

Las organizaciones utilizarán muchos modelos de inteligencia artificial generativa de diferentes tamaños, complejidades y capacidades. Para generar valor, estos modelos deben poder trabajar tanto juntos como con los sistemas o aplicaciones existentes en el negocio. Por esta razón, la construcción de una pila tecnológica separada para la inteligencia artificial generativa crea más complejidades que soluciones. Por ejemplo, podemos ver a un consumidor que consulta al servicio de atención al cliente de una empresa de viajes para resolver un problema de reserva (Exhibición 2). Al interactuar con el cliente, el modelo de inteligencia artificial generativa necesita acceder a múltiples aplicaciones y fuentes de datos.


Para el arquetipo Taker, este nivel de coordinación no es necesario. Pero para las empresas que buscan escalar las ventajas de la inteligencia artificial generativa como Shapers o Makers, los CIOs y CTOs deben actualizar su arquitectura tecnológica. El objetivo principal es integrar los modelos de inteligencia artificial generativa en los sistemas internos y aplicaciones empresariales y construir tuberías hacia diversas fuentes de datos. En última instancia, es la madurez de la arquitectura tecnológica empresarial lo que permite a la empresa integrar y escalar sus capacidades de inteligencia artificial generativa.


Los avances recientes en marcos de integración y orquestación, como LangChain y LlamaIndex, han reducido significativamente el esfuerzo necesario para conectar diferentes modelos de inteligencia artificial generativa con otras aplicaciones y fuentes de datos. También están surgiendo varios patrones de integración, incluidos aquellos que permiten que los modelos llamen a APIs al responder a una consulta de usuario. Por ejemplo, GPT-4 puede invocar funciones, y proporcionar datos contextuales de un conjunto de datos externo como parte de una consulta de usuario, una técnica conocida como generación aumentada por recuperación. Los líderes tecnológicos deberán definir arquitecturas de referencia y patrones de integración estándar para su organización (como formatos de API estándar y parámetros que identifiquen al usuario y al modelo que invoca la API).


Hay cinco elementos clave que se deben incorporar en la arquitectura tecnológica para integrar de manera efectiva la inteligencia artificial generativa (Exhibición 3):


Gestión de contexto y almacenamiento en caché para proporcionar a los modelos información relevante de fuentes de datos empresariales. El acceso a datos relevantes en el momento adecuado es lo que permite que el modelo comprenda el contexto y produzca resultados atractivos. El almacenamiento en caché guarda los resultados de preguntas frecuentes para permitir respuestas más rápidas y económicas.

Gestión de políticas para garantizar acceso apropiado a los activos de datos empresariales. Este control asegura que los modelos de inteligencia artificial generativa que incluyen detalles de compensación de empleados, por ejemplo, no puedan ser accesibles para el resto de la organización.

Depósito de modelos, que contiene modelos entrenados y aprobados que se pueden aprovisionar a pedido y actúa como un repositorio para puntos de control, pesos y parámetros del modelo.

Biblioteca de indicaciones, que contiene instrucciones optimizadas para los modelos de inteligencia artificial generativa, incluida la versión de la indicación a medida que se actualizan los modelos.

Plataforma MLOps, incluidas capacidades de MLOps actualizadas, para tener en cuenta la complejidad de los modelos de inteligencia artificial generativa. Las tuberías de MLOps, por ejemplo, deberán incluir instrumentación para medir el rendimiento específico de la tarea, como medir la capacidad de un modelo para recuperar el conocimiento correcto.


En la evolución de la arquitectura, los CIOs y CTOs deberán navegar por un ecosistema en rápido crecimiento de proveedores y herramientas de inteligencia artificial generativa. Los proveedores en la nube brindan amplio acceso a hardware a gran escala y modelos base, así como un conjunto proliferante de servicios. MLOps y proveedores de depósitos de modelos, mientras tanto, ofrecen las herramientas, tecnologías y prácticas para adaptar un modelo base e implementarlo en producción, mientras que otras empresas brindan aplicaciones a las que los usuarios acceden directamente y que se construyen sobre modelos base para realizar tareas específicas. Los CIOs y CTOs deberán evaluar cómo se ensamblan e integran estas diversas capacidades para implementar y operar modelos de inteligencia artificial generativa.


6. Desarrolla una arquitectura de datos que permita el acceso a datos de calidad

La capacidad de una empresa para generar y escalar valor, incluidas las reducciones de costos y mejoras en la protección de datos y conocimientos, a partir de modelos de inteligencia artificial generativa dependerá de cuán bien aproveche sus propios datos. Crear esa ventaja depende de una arquitectura de datos que conecte los modelos de inteligencia artificial generativa con fuentes de datos internas, que proporcionan contexto o ayudan a afinar los modelos para crear resultados más relevantes.


En este contexto, los CIOs, CTOs y directores de datos deben trabajar en estrecha colaboración para hacer lo siguiente:


Categorizar y organizar los datos para que puedan ser utilizados por los modelos de inteligencia artificial generativa. Los líderes tecnológicos deberán desarrollar una arquitectura de datos integral que incluya fuentes de datos estructurados y no estructurados. Esto requiere establecer estándares y pautas para optimizar los datos para su uso en inteligencia artificial generativa, por ejemplo, mediante el reforzamiento de los datos de entrenamiento con muestras sintéticas para mejorar la diversidad y el tamaño; convertir los tipos de medios en formatos de datos estandarizados; agregar metadatos para mejorar la trazabilidad y calidad de los datos; y actualizar los datos.

Asegurar que la infraestructura existente o los servicios en la nube puedan admitir el almacenamiento y manejo de los volúmenes masivos de datos necesarios para las aplicaciones de inteligencia artificial generativa.

Priorizar el desarrollo de tuberías de datos para conectar los modelos de inteligencia artificial generativa con fuentes de datos relevantes que proporcionen "comprensión contextual". Los enfoques emergentes incluyen el uso de bases de datos vectoriales para almacenar y recuperar incrustaciones (conocimientos especialmente formateados) como entrada para modelos de inteligencia artificial generativa, así como enfoques de aprendizaje en contexto, como "estimulación de pocas preguntas", donde se proporcionan ejemplos de respuestas correctas a los modelos.


Al seguir estos pasos, los CIOs y CTOs pueden guiar a sus organizaciones en la adopción efectiva y exitosa de la inteligencia artificial generativa, permitiendo a las empresas aprovechar al máximo esta tecnología transformadora.


7. Crea un equipo centralizado y multidisciplinario de plataforma de inteligencia artificial generativa


La mayoría de las organizaciones tecnológicas están en un proceso de transición hacia un modelo operativo basado en productos y plataformas. Los CIOs y CTOs necesitan integrar capacidades de inteligencia artificial generativa en este modelo operativo para aprovechar la infraestructura existente y ayudar a escalar rápidamente la adopción de la inteligencia artificial generativa. El primer paso es establecer un equipo centralizado de plataforma de inteligencia artificial generativa cuyo enfoque principal sea desarrollar y mantener un servicio de plataforma donde se puedan aprovisionar modelos de inteligencia artificial generativa aprobados a pedido para su uso por parte de los equipos de productos y aplicaciones. El equipo de la plataforma también define protocolos sobre cómo se integran los modelos de inteligencia artificial generativa con los sistemas internos, aplicaciones y herramientas, y también desarrolla e implementa enfoques estandarizados para gestionar el riesgo, como marcos de inteligencia artificial responsable.


Los CIOs y CTOs deben asegurarse de que el equipo de la plataforma cuente con personas que tengan las habilidades adecuadas. Este equipo requiere un líder técnico senior que actúe como gerente general. Los roles clave incluyen ingenieros de software para integrar modelos de inteligencia artificial generativa en sistemas, aplicaciones y herramientas existentes; ingenieros de datos para construir tuberías que conecten modelos con varios sistemas de registro y fuentes de datos; científicos de datos para seleccionar modelos y diseñar indicaciones; ingenieros de MLOps para gestionar la implementación y el monitoreo de múltiples modelos y versiones de modelos; ingenieros de ML para afinar modelos con nuevas fuentes de datos; y expertos en riesgos para gestionar problemas de seguridad como filtración de datos, controles de acceso, precisión de las salidas y sesgos. La composición exacta del equipo de la plataforma dependerá de los casos de uso que se estén atendiendo en toda la empresa. En algunos casos, como la creación de un chatbot para los clientes, se necesitarán recursos sólidos de gestión de productos y experiencia de usuario (UX).


Realísticamente, el equipo de la plataforma deberá trabajar inicialmente en un conjunto limitado de casos de uso prioritarios, ampliando gradualmente el alcance de su trabajo a medida que construyen capacidades reutilizables y aprenden qué funciona mejor. Los líderes tecnológicos deben trabajar en estrecha colaboración con los líderes empresariales para evaluar qué casos de negocio financiar y apoyar.


8. Adapta los programas de mejora de habilidades según los roles y los niveles de competencia


La inteligencia artificial generativa tiene el potencial de aumentar en gran medida la productividad de los empleados y mejorar sus capacidades. Sin embargo, los beneficios se distribuyen de manera desigual según los roles y niveles de habilidad, lo que requiere que los líderes repiensen cómo desarrollar las habilidades efectivas necesarias.


Nuestra última investigación empírica utilizando la herramienta de inteligencia artificial generativa GitHub Copilot, por ejemplo, ayudó a los ingenieros de software a escribir código un 35 a un 45 por ciento más rápido.5 Sin embargo, los beneficios variaron. Los desarrolladores altamente capacitados experimentaron aumentos de hasta un 50 al 80 por ciento, mientras que los desarrolladores junior experimentaron una disminución del 7 al 10 por ciento en la velocidad. Esto se debe a que los resultados de las herramientas de inteligencia artificial generativa requieren que los ingenieros critiquen, validen y mejoren el código, lo cual es difícil para los ingenieros de software sin experiencia. Por otro lado, en roles menos técnicos, como el servicio al cliente, la inteligencia artificial generativa ayuda significativamente a los trabajadores con habilidades bajas, con un aumento de la productividad del 14 por ciento y una disminución de la rotación del personal, según un estudio.6


Estas disparidades destacan la necesidad de que los líderes tecnológicos, trabajando con el director de recursos humanos (CHRO), repiensen su estrategia de gestión del talento para construir la fuerza laboral del futuro. Contratar un conjunto central de talento de inteligencia artificial generativa será importante y, dado la escasez cada vez mayor y la importancia estratégica de ese talento, los líderes tecnológicos deben implementar mecanismos de retención, como salarios competitivos y oportunidades para participar en trabajos estratégicos importantes para el negocio.


Sin embargo, los líderes tecnológicos no pueden detenerse en la contratación. Debido a que casi todos los roles existentes se verán afectados por la inteligencia artificial generativa, el enfoque crucial debe ser mejorar las habilidades de las personas en función de una visión clara de las habilidades requeridas por roles, niveles de competencia y objetivos empresariales. Tomemos como ejemplo a los desarrolladores de software. El entrenamiento para los principiantes debe enfatizar acelerar su camino para convertirse en principales revisores de código, además de generadores de código. Similar a la diferencia entre escribir y editar, la revisión de código requiere un conjunto de habilidades diferente. Los ingenieros de software deberán comprender cómo se ve el buen código; revisar el código creado por la inteligencia artificial generativa en términos de funcionalidad, complejidad, calidad y legibilidad; y buscar vulnerabilidades al tiempo que se aseguran de no introducir problemas de calidad o seguridad en el código.


Además, los desarrolladores de software deberán aprender a pensar de manera diferente cuando se trata de codificación, comprendiendo mejor la intención del usuario para poder crear indicaciones y definir datos contextuales que ayuden a las herramientas de inteligencia artificial generativa a proporcionar mejores respuestas.


Además de capacitar al talento tecnológico, el CIO y el CTO pueden desempeñar un papel importante en el desarrollo de habilidades de inteligencia artificial generativa entre el talento no técnico. Además de comprender cómo utilizar las herramientas de inteligencia artificial generativa para tareas básicas como la generación de correos electrónicos y la gestión de tareas, las personas en toda la organización deberán sentirse cómodas utilizando una variedad de capacidades para mejorar el rendimiento y los resultados. El CIO y el CTO pueden ayudar a adaptar modelos de capacitación académica para proporcionar esta formación y las correspondientes certificaciones.


La disminución del valor de los ingenieros sin experiencia debería acelerar el abandono de una pirámide de talento clásica, donde la mayor cantidad de personas se encuentran en un nivel junior, hacia una estructura más parecida a un diamante, donde la mayoría de la fuerza laboral técnica está compuesta por personas con experiencia. En términos prácticos, eso significará desarrollar las habilidades de los empleados junior lo más rápido posible al tiempo que se reducen los roles dedicados a tareas manuales de baja complejidad (como escribir pruebas unitarias).


9. Evalúa el nuevo panorama de riesgos y establece prácticas continuas de mitigación


La inteligencia artificial generativa presenta un nuevo conjunto de preguntas éticas y riesgos, incluidas las "alucinaciones", donde el modelo de inteligencia artificial generativa presenta una respuesta incorrecta basada en la respuesta de mayor probabilidad; la liberación accidental de información confidencial identificable personalmente; sesgos inherentes en los grandes conjuntos de datos que utilizan los modelos; y altos grados de incertidumbre relacionados con la propiedad intelectual (IP). Los CIOs y CTOs deberán tener fluidez en temas éticos, humanitarios y de cumplimiento para adherirse no solo al cumplimiento de la ley (que variará según el país), sino también al espíritu de gestionar de manera responsable la reputación de su negocio.


Abordar este nuevo panorama requiere una revisión significativa de las prácticas de ciberseguridad y la actualización del proceso de desarrollo de software para evaluar el riesgo e identificar acciones de mitigación antes de comenzar el desarrollo del modelo, lo que reducirá los problemas y garantizará que el proceso no se ralentice. Las acciones probadas de mitigación de riesgos para las alucinaciones pueden incluir ajustar el nivel de creatividad (conocido como "temperatura") de un modelo cuando genera respuestas, agregar datos internos relevantes al modelo para proporcionar más contexto, utilizar bibliotecas que impongan límites en lo que se puede generar, utilizar modelos de "moderación" para verificar las salidas y agregar advertencias claras. Los primeros casos de uso de inteligencia artificial generativa deben centrarse en áreas donde el costo del error sea bajo, para permitir que la organización supere los contratiempos inevitables e incorpore aprendizajes.


Para proteger la privacidad de los datos, será fundamental establecer y hacer cumplir protocolos de etiquetado de datos sensibles, establecer controles de acceso a datos en diferentes dominios (como los datos de compensación de recursos humanos), agregar protección adicional cuando los datos se utilizan externamente e incluir salvaguardias de privacidad. Por ejemplo, para mitigar el riesgo de control de acceso, algunas organizaciones han establecido una capa de gestión de políticas que restringe el acceso por rol una vez que se da una indicación al modelo. Para mitigar el riesgo de propiedad intelectual, los CIOs y CTOs deben insistir en que los proveedores de modelos base mantengan la transparencia con respecto a la IP (fuentes de datos, licencias y derechos de propiedad) de los conjuntos de datos utilizados.


La inteligencia artificial generativa está lista para ser una de las categorías de tecnología de crecimiento más rápido que hemos visto. Los líderes tecnológicos no pueden permitirse retrasos innecesarios en la definición y configuración de una estrategia de inteligencia artificial generativa. Si bien el espacio seguirá evolucionando rápidamente, estas nueve acciones pueden ayudar a los CIOs y CTOs a aprovechar de manera responsable y efectiva el poder de la inteligencia artificial generativa a gran escala.



*se ha utilizado un artículo de referencia de McKinsey como base para este contenido.

14 visualizaciones0 comentarios

Commentaires


bottom of page