🤖 Plan de Biden para la Inteligencia Artificial enfrenta desafíos presupuestarios 💰😱

Preocupaciones surgen ya que la agencia encargada de Joe Biden, NIST, carece de recursos para mitigar los riesgos de la IA - Posible dependencia de empresas privadas que desarrollan tecnología

El ambicioso plan de Estados Unidos para garantizar la seguridad de la inteligencia artificial (IA) actualmente enfrenta limitaciones financieras.

Introducción

En octubre, el presidente de Estados Unidos, Joe Biden, presentó su ambicioso plan para contener los riesgos potenciales asociados con la inteligencia artificial (IA). Sin embargo, este plan integral ya corre el riesgo de fracasar debido a las limitaciones presupuestarias que enfrenta el Instituto Nacional de Estándares y Tecnología (NIST), la agencia responsable de establecer los estándares de IA. El presupuesto propuesto para el NIST no cumple con lo requerido para completar el trabajo necesario de forma independiente para la fecha límite del 26 de julio de 2024. Esto ha generado preocupaciones sobre la fuerte dependencia de la agencia en empresas privadas con intereses particulares en dar forma a los estándares de IA. En este artículo, profundizaremos en los desafíos que enfrenta el NIST y las posibles consecuencias de no abordar adecuadamente los sesgos y amenazas ocultas de la IA. 🤔

La Fecha Límite Casi Imposible ⏳

Elham Tabassi, directora asociada de tecnologías emergentes en el NIST, ha descrito la fecha límite del 26 de julio de 2024 como “casi imposible” para que la agencia cumpla. Este ajustado cronograma pone una tremenda presión sobre el NIST para desarrollar estándares para la prueba de resistencia de los sistemas de IA, descubrir sesgos, amenazas ocultas y tendencias problemáticas. Sin embargo, el presupuesto actual de la agencia de $1.6 mil millones para 2023 es insuficiente para esta enorme tarea.

Preocupaciones Congresuales

Algunos miembros del Congreso están preocupados de que el NIST se vea obligado a depender en gran medida de la experiencia en IA de empresas privadas. Estas empresas, impulsadas por sus propios proyectos de IA, pueden tener un interés particular en dar forma a los estándares a su favor. Esto plantea interrogantes sobre la transparencia y el potencial de influencia indebida en el desarrollo de estándares de IA. 🕵️‍♀️

NIST vs. Potencias de IA 🥊

El NIST, responsable de estandarizar desde ingredientes alimentarios hasta relojes atómicos, palidece en comparación con los recursos de empresas como OpenAI, Google y Meta. Cada uno de estos gigantes tecnológicos probablemente ha invertido más de $100 millones en entrenar potentes modelos de lenguaje que sustentan aplicaciones como ChatGPT, Bard y Llama 2. El limitado presupuesto del NIST dificulta abordar de manera independiente el importante problema de las pruebas de seguridad de la IA. 💸

Carta Abierta Congresual 📝

El 16 de diciembre, seis miembros del Congreso firmaron una carta abierta bipartidista expresando su preocupación por la falta de transparencia en el proceso de toma de decisiones del NIST. La carta resalta la prisa por definir estándares de IA, lo cual se complica debido a la etapa temprana de investigación de las pruebas de sistemas de IA. Hace hincapié en la “discrepancia significativa” entre los expertos en IA sobre cómo medir y definir cuestiones de seguridad en la tecnología de IA. El NIST ha recibido un papel de liderazgo en este tema, pero el estado actual de la investigación sobre la seguridad de la IA presenta desafíos para la agencia.

La Búsqueda de Transparencia y la Necesidad de Más 🧐

El NIST reconoce las preocupaciones planteadas por los legisladores y ha tomado algunas medidas para mejorar la transparencia. Recientemente han emitido una solicitud de información, solicitando aportes de expertos externos y empresas sobre estándares para evaluar y poner a prueba modelos de IA. Si bien este movimiento refleja el compromiso del NIST con la transparencia, aún se desconoce si es una respuesta directa a las preocupaciones planteadas en el Congreso. La creciente opacidad en torno a los modelos de IA comerciales también dificulta la medición para organizaciones como el NIST.

Opiniones de Expertos 🗣️

Rumman Chowdhury, científico de datos y CEO de Parity Consulting, cree que el NIST, como un organismo científico no partidista, está en la mejor posición para analizar el riesgo de IA más allá del bombo y la especulación. Sin embargo, necesitan más que mandatos y buenos deseos para cumplir eficazmente su misión. Yacine Jernite, líder de aprendizaje automático y sociedad en Hugging Face, señala la gran disparidad de recursos entre el NIST y las grandes empresas tecnológicas responsables del desarrollo de los sistemas de IA más visibles.

El Camino a Seguir 🛤️

Aunque las preocupaciones sobre las limitaciones presupuestarias del NIST son válidas, es crucial reconocer que la orden ejecutiva de la Casa Blanca proporciona una guía exhaustiva para la seguridad de la IA. Establecer el Instituto de Seguridad de la Inteligencia Artificial y colaborar con naciones aliadas de EE. UU. para adoptar los estándares del NIST son pasos esenciales para avanzar en los estándares técnicos globales responsables para el desarrollo de la IA. Además, el anuncio del Reino Unido de una fuerza de trabajo enfocada en la seguridad de la IA, con un financiamiento inicial adecuado, demuestra el compromiso internacional para abordar este tema crítico. 🌍

Mirando hacia el futuro 🔍

Los desafíos enfrentados por NIST en la implementación de los estándares de IA muestran que aún hay mucho trabajo por hacer. Es vital continuar investigando, probando y perfeccionando los sistemas de IA para garantizar su seguridad y confiabilidad. Encontrar un equilibrio entre transparencia, innovación y evitar posibles sesgos es crucial. A medida que el campo de la IA continúa evolucionando, el papel de NIST como organismo científico será de suma importancia para gestionar los riesgos de la IA. Es imperativo que NIST reciba la financiación y los recursos necesarios para cumplir efectivamente con su misión. 🙌

🔗 Lista de referencias: – TomTom y Microsoft lanzan asistente de conducción con IA – Orden Ejecutiva de la Casa Blanca – Medición de la confianza pública en nuevas herramientas de IA – Mejores coolers para CPU para comprar con presupuesto – Otro diseñador de Apple se une a Jony Ive para trabajar en hardware en OpenAI – Cómo imprimir a PDF en Windows – Creciente secreto alrededor de los modelos comerciales de IA – Carta abierta sobre el mérito científico de AISI

🤝 ¡Conéctate en redes sociales! 🌐 Comparte tus pensamientos y opiniones sobre este tema crucial. ¿Crees que NIST puede superar sus desafíos presupuestarios y dar forma de manera efectiva a los estándares de IA? Comenta abajo o únete a la discusión en nuestra página de Facebook y Twitter. ¡No olvides compartir este artículo con tus amigos y colegas interesados en el fascinante mundo de la IA! 📢✨

🔥🔥🔥