"Vigilar de manera real y efectiva": Microsoft se mostró a favor de crear una agencia que supervise la IA

Microsoft. Foto: Reuters

El debate por el uso debido o no de la inteligencia artificial recién comienza. Varias voces se han manifestado para pedir por una regulación y en esta oportunidad el presidente de Microsoft, Brad Smith, hizo lo suyo. En últimas declaraciones apoyó que el Gobierno de Estados Unidos establezca una agencia independiente para regular los usos de la IA durante una sesión sobre privacidad y legalidad en el Senado.

"Requiramos licencias para los modelos de IA avanzados que se utilicen en escenarios de alto riesgo. Tengamos una agencia independiente que pueda vigilar de manera real y efectiva esta categoría", dijo Smith ante un panel de senadores que lo cuestionaron sobre asuntos que iban desde la influencia de China hasta la seguridad de los adolescentes.

La reunión, la tercera convocada este año por el comité judicial del Senado sobre la IA, puede servir para dar una idea a los legisladores estadounidenses de los principales problemas y áreas de conflicto para una futura regulación de la tecnología.

inteligencia artificial. Foto: Reuters

Te puede interesar:

La IA en la educación, el entretenimiento y la economía

Los temas abordados en la reunión

En la sesión participaron además como testigos el científico jefe de Nvidia, William Dally, y el profesor de Derecho de la Universidad de Boston Woodrow Hartzog. Los tres se mostraron a favor de que las autoridades intervengan en aspectos como la desinformación electoral o la protección de los datos de los usuarios.

Sin embargo, Smith se mostró reacio a subir la edad permitida para interactuar con su "chatbot" Bing, cuyo uso de la IA abrió las puertas a la implementación de los modelos grandes de lenguaje, como ChatGPT, en diversas aplicaciones y contribuyó a generar una nueva ola de preocupación en la industria.

El ejecutivo explicó que este tipo de herramientas pueden servir para ayudar a los estudiantes a mejorar su aprendizaje de materias como matemáticas o inglés, y no quiere limitar su uso a los mayores de 18 años, como le pedía un senador republicano.

Microsoft. Foto: Reuters

La sesión siguió con los recientes esfuerzos por las autoridades estadounidenses por poner coto a una industria que avanza a pasos agigantados, con los principales representantes del sector mostrando su disposición a cooperar pero sin avances concretos.

Hace solo dos meses, las grandes tecnológicas del país aceptaron una serie de medidas de seguridad propuestas por la Casa Blanca que contemplan la creación de pruebas internas y externas de sus sistemas de IA antes de hacerlos públicos.

El Gobierno estadounidense también dijo que está trabajando para que los compromisos voluntarios de las compañías estadounidenses se traduzcan en un marco internacional sobre el uso de la IA, y añadió que ya ha mantenido consultas con países como Brasil, Canadá, Corea del Sur, Francia, Alemania, India, Israel, Japón, México y el Reino Unido.

Te puede interesar:

Cómo será la nueva tablet de pared de Apple con IA que busca controlar todo el hogar

La postura del G20

Los líderes reafirmaron, durante la última cumbre en la India, la necesidad de regular la inteligencia artificial (IA) para "maximizar los beneficios" y "mitigar los riesgos". Esta sentencia quedó reflejada en un párrafo dedicado al tema en la declaración final consensuada.

"El rápido progreso de la inteligencia artificial promete prosperidad y expansión de la economía digital mundial. Es nuestro empeño aprovecharla para el bien público, resolviendo los retos de manera responsable, inclusiva y centrada en el ser humano, protegiendo al mismo tiempo los derechos y la seguridad de las personas", indica el texto.

Cumbre del G20. Foto: EFE.

El Grupo de los 20 pidió también "garantizar el desarrollo, despliegue y uso responsables de la inteligencia artificial, la protección de los derechos humanos, la transparencia y la equidad". Además, llamó a promover "la rendición de cuentas, regulación, supervisión humana adecuada, ética, sesgos, privacidad y protección de datos".

Por otro lado, el comunicado de 37 páginas destaca: "Para liberar todo el potencial de la Inteligencia Artificial, compartir equitativamente sus beneficios y mitigar los riesgos, trabajaremos juntos para promover la cooperación internacional y proseguir los debates sobre la gobernanza internacional" de esta tecnología.