Autor: Best Buy, David Kenny. “Jamás he visto

Por qué los riesgos de la IA desvelan a las juntas directivas
Los directores están tratando de entender la inteligencia artificialproductividad; pero también posibilidad de errores. En 2023, el95% de direc-tores afirmóque creía que lamayor adop-ción de instru-mentos de IAafectaría susnegocios. CAMBIOEl lanzamiento deChatGPT provocó uncambio sísmico en el usode la tecnología. cios de la IA y cómo esta se puede utili-zar para impulsar el crecimiento de in-gresos y reducir los costos. “En el último año, reconocimos quela IA generativa implica nuevos ries-gos”, señala Shih, quien fue parte delconsejo de Starbucks desde 2011 hasta2023.
Un comité de auditoría o de ries-gos, por ejemplo, tiene que saber cómouna empresa utiliza la IA, hasta el pun-to de que un empleado individual nofiltre información confidencial median-te el uso de instrumentos de IA, agrega. Sin embargo, las empresas que evitanla IA corren el riesgo de quedar obsoletaso desbaratadas. Las preguntas sobre laIA surgen en forma tan frecuente que Sa-lesforce dio a conocer públicamente suspautas para el desarrollo y uso responsa-ble de la IA, precisa Shih. Igualmente hacompartido la capacitaciónen IA de Salesforce, llama-da Trailhead, con amigosque son directores de con-sejos de empresas abiertas. “La IA es un objetivo enmovimiento”, asegura.
“Todas las semanas haynuevos modelos que son decódigo abierto, hay nuevos trabajos deinvestigación que se publican, y los mo-delos se vuelven más potentes”. El rápido surgimiento de la IA tiene amuchas juntas directivas corriendo paraponerse al día.
En 2023, el 95% de direc-tores afirmó que creía que la mayor adop-ción de instrumentos de IA afectaría susnegocios, mientras que el 28% manifestóque aún no se analizaba regularmente, según un estudio en base a 328 miembrosde juntas directivas de empresas públicasque llevó a cabo National Association ofCorporate Directors (NACD), el princi-pal grupo comercial para miembros dejuntas directivas.
Eso está cambiando amedida que cada vez más miembros deconsejos dicen que se están instruyendosobre cómo la IA generativa puede afec-tar las ganancias de una compañía; im-pulsando potencialmente la productivi-dad pero también trayendo riesgos queserán difíciles de estimar. La NACD hace poco formó un grupopara que se enfoque en cómo abordar lastecnologías emergentes, en especial la IA, en los niveles más altos de las empresas. Las escuelas de negocios están incorpo-rando estudios de casos de IA generativaen su capacitación para miembros de jun-tas directivas. Una cantidad de altos eje-cutivos y asesores de IA se han reunidoeste año para debatir sobre ese mismo te-ma en conferencias realizadas en todo elmundo. En marzo, legisladores europeosaprobaron la legislación más amplia delmundo sobre IA, mientras se espera queotras regiones sigan su ejemplo. Un cambio sísmicoEsta no es la primera vez que una tec-nología revolucionaria tiene repercu-siones en las salas del consejo. Miem-bros de juntas directivas y asesoresmencionan los primeros días de inter-net, la computación en la nube y la ci-berseguridad como puntos de inflexióntecnológicos clave. Pero la IA podría te-ner un efecto incluso más amplio.
El lanzamiento de ChatGPT en no-viembre de 2022 provocó un cambiosísmico en el modo en que las personasutilizan la tecnología, señala Nora Den-zel, codirectora de la comisión deNACD para la supervisión del consejode la tecnología emergente y principaldirectora independiente del consejo delfabricante de chips Advanced MicroDevices.
“He visto un aumento en losdirectores que acuden a cualquier cosaque ofrezcamos con IA en el título”, co-menta Denzel, quien codirige la comi-sión con el presidente del consejo deComo una forma de entender mejoresta tecnología, Denzel, quien tambiénes directora de NortonLifeLock y exeje-cutiva de tecnología, dice que sugiereque los directores evalúen específica-mente las diferentes funciones de la IA, como apoyo al cliente, traducciones deidiomas o asistencia en codificación.
Por ejemplo, ha recomendado a los di-rectores que sigan un trazado visualque es utilizado por la firma consultoraMcKinsey, creando una matriz codifi-cada por colores que muestra a primeravista las áreas de negocios de una com-pañía en que la IA podría tener el mayorimpacto. Observa industrias, como labancaria, de la educación y del trans-porte, y funciones, que abarcan desdemárketing y ventas hasta el desarrollode producto y estrategia y finanzas.
David Berger, socio del bufete de abo-gados Wilson Sonsini Goodrich & Rosaticuyo trabajo incluye asesorar a juntas di-rectivas sobre IA generativa, dice que re-comienda que pregunten cómo la IApuede tener un impacto positivo en sunegocio y dónde hay una amenaza rela-cionada con la IA. Eso puede diferenciar-se según el negocio, indica, ya sea privaci-dad del cliente, seguridad de los datos opropiedad intelectual del contenido.
Berger y su firma han organizado tresconferencias hasta ahora sobre gobernan-za de IA, y hay más que se están preparan-do a medida que los directores y otras per-sonas del sector buscan debatir más sobrela tecnología emergente. “Los consejos in-teligentes ven las enormes oportunidadesque puede aportar la IA”, expresa.
Laurie Hodrick, miembro de la juntadirectiva de empresas como Roku, lacompañía de streaming de TV, señalódurante una reciente conferencia de IAque fue coorganizada por Wilson Sonsi-ni que los directores de empresas públi-cas deberían estar haciendo regular-LANRUOJTEERTSLLAWEHTCONTENIDO LICENCIADO PORTHE WALL STREET JOURNALEMILY GLAZERThe Wall Street JournalEn una reciente reunión de la juntadirectiva de un banco, los directores seencontraron con una sorpresa. Escu-charon al jefe ejecutivo hablar de estra-tegia; excepto que no estaba hablandorealmente el jefe ejecutivo. Resultó ser un modelo de clonación devoz que fue capacitado, mediante el usode teleconferencias anteriores sobre ga-nancias del jefe ejecutivo, para generarnuevo contenido.
Cada vez más directo-rios están intentando esta clase de ejerci-cios preparados para comprender mejorel impacto y posibles riesgos de lainteligencia artificial (IA) generativa, se-ñala Tariq Shaukat, jefe ejecutivo de lacompañía de codificación Sonar, quienestaba informado sobre el ejercicio perodeclinó revelar el nombre del banco. “Hay mucho riesgo (con la IA) y cre-en que necesitan entenderla mejor”, di-ce Shaukat, quien también forma partede consejos corporativos. Miembros de consejos de empresasabiertas afirman que el rápido aumentode la IA en el lugar de trabajo es un pro-blema que los mantiene desvelados.
Al-gunos apuntan a una preocupación re-ciente relacionada con los empleados quei n t r o d u c e n c ó d i g o p a t e n t a d o e nChatGPT, empresas que utilizan IA ge-nerativa para obtener contenido en formaincorrecta o la inquietud sobre las llama-das alucinaciones en que la IA generativaproduce información falsa o inexacta. Lo que empeora sus pesadillas, a losmiembros de directorios les preocupaque los responsabilicen en el caso de quela IA provoque problemas en la empresa. En los últimos años, algunas acciones le-gales de accionistas se han centrado en silos miembros del consejo no solo eje-cutivos ejercieron una vigilancia sufi-ciente de los riesgos de la empresa. Los miembros de la junta directiva, o losdirectores, se encuentran a un nivel supe-rior a la administración. Sulabor es tener una visiónmás independiente de la su-pervisión de la empresa, desde el manejo de riesgoshasta la cultura y la contrata-ción del siguiente jefe ejecu-tivo. Las tecnologías emer-gentes han sido tanto unabendición como un dolor de cabeza paralas empresas.
Ahora que la IA ocupa elcentro del escenario, los miembros delconsejo están en la primera línea en cuantoa establecer las normas de dónde y cómose debería utilizar; pautas que podrían sercruciales para el curso de esta tecnologíapoderosa y de rápida evolución.
Clara Shih, jefa ejecutiva de la divi-sión de IA de Salesforce, dice que ha ha-blado con un par de docenas de miem-bros del consejo, ya sea jefes ejecutivoso pares que se contactan con ella en bus-ca de consejo, quienes están tratando deentender mejor la IA. A menudo lasconversaciones se centran en temas co-mo la seguridad y privacidad de datos, cómo mitigar las alucinaciones y prejui-mente alrededor de una docena de pre-guntas clave sobre IA.
Entre ellas:¿ Quién en la alta dirección se enfoca enla IA? ¿ Dónde se está utilizando la IAdentro de la empresa? ¿ Cómo se estánidentificando y clasificando los instru-mentos según el riesgo? ¿ Cómo la estánutilizando los terceros proveedores, ycómo las juntas directivas están exami-nando la evolución de los regímenes re-gulatorios y los litigios?Aprender los trucosCada vez más miembros de juntas di-rectivas buscan ayuda mientras tratande ponerse al día.
Janet Wong, miembro de la junta di-rectiva de empresas como Lucid Motors, el fabricante de vehículos eléctricos, afir-ma que la gobernanza de IA ha sido unpunto de debate clave entre los directo-res en las sesiones de capacitación queimparten las escuelas de negocios paraellos este verano (Hemisferio Norte). El programa de la Escuela de Negociosde Harvard en julio incluyó un estudio decaso sobre cómo una compañía de educa-ción en línea utiliza la IA generativa en elnuevo diseño de sus productos. En elanual College de Stanford Directors en ju-nio, señala, los directores hablaron del ma-nejo de riesgos de la IA, como la posibili-dad de crear la voz de un jefe ejecutivo pa-ra hacer solicitudes. En esta primera etapa, lograr simplemente que las juntas directi-vas estén informadas de cómo se puedeutilizar la tecnología es un gran objetivo.
El Instituto Watson de la UniversidadBrown y Dominique Shelton Leipzig, socio del bufete de abogados MayerBrown, en marzo realizaron una segun-da cumbre anual de confianza digitalpara que miembros de juntas directivasy jefes ejecutivos debatieran sobre la go-bernanza de IA, con la asistencia de másde 100 personas. Mantenerse actualizado sobre los ries-gos de la IA y conversar al respecto en lassalas de directorio ha sido prioritario pa-ra Logitech, dice la jefa ejecutiva Hanne-ke Faber. El proveedor de periféricoscomputacionales, accesorios para video-juegos y hardware de videoconferenciasrepasó su marco de gobernanza de IAdurante una reunión del consejo en mar-zo y continúa adaptando ese marco.
El consejo también trajo expertos enIA, en respuesta a la información quedirectores y gerentes querían para en-tender mejor cómo la IA afecta el nego-cio de la compañía; por ejemplo, exami-nar cómo utiliza la IA para la producti-vidad como también en su software, vi-deo y audio. “Es una primera prioridadpara el consejo”, asegura. No todos los miembros del consejoestán hechos para realizar ese trabajo.
Leo Strine, exjefe de los influyentes tri-bunales comerciales de Delaware y aho-ra abogado de Wachtell, Lipton, Rosen &Katz, señaló durante una reciente confe-rencia sobre gobernanza de IA que la tec-nología está cambiando rápidamente lasprácticas empresariales, y los directoresque ya no son ejecutivos activos en lasempresas puede que tengan dificultadespara estar al día con los usos emergentes, a menos que se comprometan con unaprendizaje constante.
“La IA es extremadamente comple-ja”, asegura, “lo que provoca estrés enlos consejos generalistas y su reticenciaa exigir explicaciones a la gerencia”. Artículo traducido del inglés por “El Mercurio”.. A medida que su uso se dispara, traería potenciales ganancias de Los directores están tratando de entender la inteligencia artificial