Dentro de la reunión privada de inteligencia artificial en el Senado con los multimillonarios de la tecnología
En la reunión privada de IA en el Senado con multimillonarios tecnológicos
Los senadores estadounidenses están demostrando ser lentos en el estudio de las herramientas de inteligencia artificial generativa que están listas para cambiar la vida tal como la conocemos. Pero pronto serán probados, y el resto de nosotros a través de ellos, si sus nuevos tutores privados son dignos de confianza.
En una histórica primicia, ayer más de 60 senadores se sentaron como niños en la escuela, sin permitírseles hablar ni siquiera levantar la mano, en una sesión informativa privada en la que unos 20 CEOs del Valle del Silicio, éticos, académicos y defensores del consumidor profetizaron sobre el potencial de la IA para cambiar, sanar o incluso borrar la vida tal como la conocemos.
“Es importante que tengamos un árbitro”, dijo Elon Musk, CEO de Tesla, SpaceX y X (anteriormente Twitter), a una multitud de paparazzi esperando en la acera afuera de la sesión informativa. “[Esto] podría pasar a la historia como algo muy importante para el futuro de la civilización”.
El peso del momento no se pierde en nadie, especialmente después de que Musk advirtiera a los senadores dentro de la sala sobre los “riesgos civilizatorios” de la IA generativa.
Mientras muchos senadores luchan con los conceptos básicos de la IA, aún hay tiempo para influir en el pensamiento colectivo del Senado antes de que los legisladores intenten hacer lo que no han logrado hacer en años recientes: regular la tecnología disruptiva emergente.
- X, finalmente, accede a conversaciones de acuerdo con los empleados...
- Blackmagic Design presenta su primer modelo de formato completo, la...
- El adorable microscooter de los años 80 de Honda regresa y se elect...
Dentro de la sala de información hubo consenso en el estrado de que se necesita el poder reglamentario del gobierno federal. En un momento dado, el líder de la mayoría del Senado Chuck Schumer, el demócrata de Nueva York que organizó la sesión informativa, preguntó a sus invitados: “¿Necesita el gobierno desempeñar un papel en la regulación de la IA?”
“Cada persona levantó la mano, a pesar de tener opiniones diversas”, continuó Schumer. “Así que eso nos da un mensaje: tenemos que intentar actuar, por difícil que sea el proceso”.
La elevación de manos diversas fue reveladora para muchos.
“Creo que todos estuvieron de acuerdo en que esto es algo en lo que necesitamos el liderazgo del gobierno”, dijo Sam Altman, CEO de OpenAI, creador de ChatGPT. “Hubo algunas discrepancias sobre cómo debería suceder, pero unanimidad en que esto es importante y urgente”.
Pero los detalles diabólicos son inquietantes. Debido a que la IA generativa es tan abarcadora, un debate sobre su regulación puede rápidamente incluir todos los temas divisivos bajo el sol, algo que se mostró en la sesión informativa junto con la muestra de unidad, según los asistentes que hablaron con ENBLE.
Para sorpresa de muchos, la sesión estuvo repleta de especificidades. Algunos asistentes mencionaron su necesidad de trabajadores altamente capacitados, mientras que Bill Gates se centró en alimentar a los hambrientos del mundo. Algunos imaginan una nueva agencia de IA integral, mientras que otros argumentan que las entidades existentes, como el Instituto Nacional de Estándares y Tecnología (NIST, por sus siglas en inglés), que fue mencionado por su nombre, son más adecuadas para regular en tiempo real (bueno, en el tiempo de la IA).
“Fue una muy buena combinación. Mejor de lo que esperaba”, dijo la senadora Cynthia Lummis, republicana de Wyoming, quien asistió a la sesión informativa. “Yo esperaba que no fuera nada importante, pero aprendí mucho. Me pareció extremadamente útil, así que estoy realmente contenta de haber ido. Muy contenta”.
Al igual que muchos en la sala, las orejas de Lummis se aguzaron cuando un orador mencionó la Sección 230 de la Ley de Decencia en las Comunicaciones de 1996, un escudo legislativo que protege a las empresas tecnológicas de la responsabilidad por lo que los usuarios publican en sus plataformas de redes sociales.
“Uno de los oradores dijo: ‘Hagan que los usuarios y creadores de la tecnología sean responsables, no inmunes a la responsabilidad'”, dice Lummis, leyendo de sus exhaustivas notas escritas a mano. “En otras palabras, él especificamente dijo: ‘No creen una Sección 230 para la IA'”. Lummis agrega que el orador que propuso esto – no lo identificó – “estaba sentado junto a [el CEO de Meta, Mark] Zuckerberg y lo dijo, a uno o dos asientos de distancia, lo cual me pareció fascinante”.
Más allá de las diversas opiniones de los legisladores, también hubo desacuerdos entre los expertos invitados a hablar en la sesión informativa privada. Los asistentes al foro y otros líderes tecnológicos hablan sobre construir y ampliar los avances de la IA, pero muchos latinos todavía carecen de acceso a internet de banda ancha, según Janet Murguía, presidenta de la organización de derechos civiles hispanos UnidosUS. Esa realidad subraya cómo “las brechas en la infraestructura existente nos impiden estar en la puerta principal de la IA”, dice ella.
Murguía quiere que los legisladores piensen en las necesidades de la comunidad hispana para priorizar la formación laboral, combatir el desplazamiento laboral y protegerse contra una “vigilancia que se aleja de los valores de nuestra democracia”. En particular, mencionó herramientas impulsadas por IA como el seguimiento de geolocalización y el reconocimiento facial, señalando un informe publicado a principios de esta semana que encontró que las agencias federales de aplicación de la ley que utilizan el reconocimiento facial carecen de salvaguardias para proteger la privacidad y los derechos civiles de las personas.
El mensaje contundente que escuchó de los CEO de tecnología fue el deseo de un liderazgo estadounidense en la política de IA. “Ya sea Mark Zuckerberg, Elon Musk, Bill Gates o [CEO de Alphabet] Sundar Pichai, hubo una clara resonancia de que Estados Unidos debe liderar en la política y regulación de la IA”, dice.
Murguía se alegró de ver mujeres como Maya Wiley de la Conferencia de Liderazgo sobre Derechos Civiles y Humanos y líderes sindicales en el foro, una representación que consideró impresionante e histórica. Pero quiere ver a personas de más segmentos de la sociedad en la sala en el próximo foro, diciendo: “No podemos tener el mismo pequeño círculo de personas que no son diversas tomando estas decisiones”.
En sus comentarios durante la sesión informativa de ayer, la presidenta de la Federación Estadounidense de Maestros, Randi Weingarten, destacó que ENBLE informó que $400 pueden financiar una campaña de desinformación. Más tarde, Tristan Harris del Centro de Tecnología Humana habló sobre cómo $800 y algunas horas de trabajo eliminaron los controles de seguridad del modelo de lenguaje Llama 2 de Meta y lo hicieron compartir instrucciones sobre cómo fabricar un arma biológica.
“Es como si estuviéramos debatiendo sobre cuánto cuesta arruinar el mundo”, dice Weingarten, refiriéndose al comentario de Musk sobre cómo la IA podría significar el fin de la civilización.
Weingarten elogia a Schumer por reunir a las personas en un momento crítico de la historia, cuando hay un tremendo potencial para que la IA beneficie a la humanidad y un tremendo potencial para socavar la democracia y la toma de decisiones humanas. Los maestros y los estudiantes merecen protección contra la desigualdad, el robo de identidad, la desinformación y otros daños que la IA puede alimentar, dice, y una legislación federal significativa debería proteger la privacidad y buscar resolver problemas como el desplazamiento laboral.
“Queremos la responsabilidad de mantenernos al día con la innovación y creemos que eso es lo que hace que la innovación sea sostenible, como el transporte aéreo comercial y las aerolíneas de pasajeros. La innovación no habría sido sostenible sin un compromiso real con la seguridad”, dice Weingarten.
Antes del foro, Inioluwa Deb Raji, una investigadora de UC Berkeley, argumentó que los expertos más confiables sobre los daños del mundo real causados por la IA provienen de fuera de las corporaciones. Le dijo a ENBLE que estaba agradecida de estar en la sala para reiterar su opinión.
En varias ocasiones, escuchó a personas argumentar que la razón por la cual las principales compañías de IA y la administración de Biden habían acordado que las corporaciones podían liderar compromisos voluntarios para evaluar los sistemas de IA antes de su implementación era porque esas compañías habían construido la tecnología y, por lo tanto, la entendían mejor.
Ella dijo que tal vez eso sea cierto, pero escuchar a las personas afectadas por los sistemas de IA y examinar cómo se ven afectadas ofrece otra forma de experiencia válida e importante que puede informar la regulación de la IA y ayudar a desarrollar estándares. Ella sabe por experiencia en la auditoría de sistemas de IA durante años que estos sistemas no siempre funcionan muy bien y pueden fallar de formas inesperadas y poner en peligro vidas humanas. El trabajo de los auditores independientes, argumentó durante la sesión informativa, abre las puertas a una mayor investigación por parte de la sociedad civil.
“Me alegra haber estado allí para plantear algunos puntos de vista no corporativos, pero desearía haber tenido más respaldo”, dice Raji.
Algunas tensiones comúnmente conocidas surgieron, como si es mejor la IA de código abierto o cerrado, y la importancia de abordar las formas en que los modelos de IA existentes hoy en día perjudican a las personas, en lugar de solo mirar los riesgos existenciales que aún no existen. Si bien Musk, quien firmó una carta a favor de una pausa en el desarrollo de la IA a principios de este año, habló sobre la posibilidad de que la IA destruya la civilización, Raji criticó la IA del piloto automático de Tesla, que ha enfrentado críticas tras la muerte de pasajeros.
“Tal vez debería haberme preocupado un poco más por la riqueza independiente de las personas que estaban sentadas a dos pasos de mí, pero siento que no fue tan intimidante porque sabía que estaban repitiendo puntos que he escuchado antes de representantes corporativos de estas compañías sobre estos mismos temas, así que tenía una idea de qué esperar”, dice.
A pesar de algunas desacuerdos, Raji dice que algunos de los momentos más fuertes y sorprendentes de la reunión ocurrieron cuando surgía un consenso de que la regulación gubernamental de la IA es necesaria. Esos momentos hicieron parecer que puede haber un camino hacia una legislación bipartidista. “Eso fue realmente educativo para mí, y probablemente para los senadores”, dice.
Todavía existe una aversión a nuevas regulaciones entre muchos republicanos, por eso a la presidenta del Comité de Comercio del Senado, Maria Cantwell, demócrata por el estado de Washington, le llamó la atención cómo el CEO de Microsoft, Satya Nadella, planteó el desafío.
“Cuando se trata de IA, no deberíamos pensar en el piloto automático, como, necesitas tener copilotos. Entonces, ¿quién va a estar vigilando, ya sabes, esta actividad y asegurándose de que se haga correctamente?” dice Cantwell.
Aunque se pidió a todos los CEO, líderes sindicales y defensores de los derechos civiles que levantaran la mano para expresar consenso, una falla al silenciar a los senadores, según los críticos de ambos lados del proverbial pasillo, es que los legisladores no pudieron determinar fácilmente dónde se encuentran sus aliados en el Senado. Y las coaliciones son clave para el compromiso.
“No hay sensación en la sala”, dice la senadora Elizabeth Warren, demócrata de Massachusetts. “Sesiones a puerta cerrada para que los gigantes tecnológicos vengan a hablar con los senadores y no respondan preguntas difíciles es un terrible precedente para tratar de desarrollar cualquier tipo de legislación”.
Mientras Warren estaba sentada en la primera fila, lo suficientemente cerca como para que los presentes vieran el fuego en sus ojos centrados en el consumidor, otros críticos boicotearon el evento, incluso mientras buscaban a los grupos de reporteros apiñados en los pasillos.
“Mi preocupación es que la legislación de [Schumer] no está llevando a ninguna parte. Quiero decir, no he visto ninguna indicación de que realmente vaya a presentar una legislación real. Es un poco como con la ley antimonopolio en los últimos dos años, habla de ello constantemente y no hace nada al respecto”, dice el senador Josh Hawley, republicano de Missouri. “Parte de esto es una especie de espectáculo que oculta el hecho de que en realidad nada está avanzando. El hecho de que no sea público, es simplemente absurdo”.
Absurdo o no, algunos de los presentes se tranquilizaron, en parte, porque se les recordó a los senadores que la inteligencia artificial no es solo nuestro futuro, ha estado en nuestras vidas durante años, desde las redes sociales hasta las búsquedas en Google, los coches autónomos y los timbres de video, sin destruir el mundo.
“Aprendí que estamos en buena forma, que no estoy demasiado preocupado por ello”, dice el senador Roger Marshall, republicano de Kansas. “Creo que la inteligencia artificial ha estado presente durante décadas, la mayoría de ella es aprendizaje automático”.
Marshall se destaca como una excepción, aunque su forma de pensar laissez-faire se está poniendo de moda en el Partido Republicano, lo que los críticos dicen que se debe a todo el cabildeo de las mismas empresas cuyos líderes estuvieron en la reunión de ayer.
“La buena noticia es que Estados Unidos está liderando en este tema. Creo que mientras nos mantengamos en la vanguardia, como lo hemos hecho con el avance de las armas militares, como lo hemos hecho con las inversiones en satélites, estaremos bien”, dice Marshall. “Estoy muy seguro de que estamos avanzando en la dirección correcta”.
Aún así, los asistentes estudiosos se fueron con un renovado sentido de urgencia, incluso si eso implica estudiar primero una tecnología que pocos realmente comprenden, incluidos los presentes. Parece que cuanto más aprenden los senadores sobre el alcance abrumador de la inteligencia artificial generativa, más reconocen que no hay fin para el nuevo papel regulador del Senado.
“¿Estamos listos para salir y redactar legislación? Absolutamente no”, dice el senador Mike Rounds, republicano de Dakota del Sur, quien ayudó a Schumer a dirigir los foros bipartidistas sobre inteligencia artificial, el próximo de los cuales se centrará en la innovación. “No estamos ahí”.
En lo que alguna vez fue aclamado como el “cuerpo deliberativo más grande del mundo”, incluso la línea de tiempo para la legislación es debatible. “Todos están asintiendo con la cabeza diciendo: ‘Sí, esto es algo en lo que debemos actuar’, así que ahora la pregunta es: ‘¿Cuánto tiempo lleva llegar a un consenso?'”, dice el senador John Hickenlooper, demócrata de Colorado. “Pero en líneas generales, creo que no es irrazonable esperar que se haga algo el próximo año”.
