La Comisión Federal de Comercio abrió una investigación sobre OpenAI , la puesta en marcha de inteligencia artificial que fabrica ChatGPT, sobre si el chatbot ha dañado a los consumidores a través de su recopilación de datos y su publicación de información falsa sobre individuos.
En una carta de 20 páginas enviada a la empresa de San Francisco esta semana, la agencia dijo que también estaba investigando las prácticas de seguridad de OpenAI. La FTC le hizo a OpenAI docenas de preguntas en su carta, incluida la forma en que la empresa nueva entrena sus modelos de IA y trata los datos personales, y dijo que la empresa debería proporcionar a la agencia documentos y detalles.
La FTC está examinando si OpenAI “participó en prácticas injustas o engañosas de privacidad o seguridad de datos o participó en prácticas injustas o engañosas relacionadas con los riesgos de daño a los consumidores”, decía la carta.
La investigación fue reportada anteriormente por The Washington Post y confirmada por una persona familiarizada con la investigación. OpenAI se negó a comentar.
La investigación de la FTC representa la primera gran amenaza regulatoria de EE. UU. para OpenAI, una de las empresas de IA de más alto perfil, y señala que la tecnología puede estar cada vez más bajo escrutinio a medida que las personas, las empresas y los gobiernos utilizan más productos impulsados por IA. La tecnología en rápida evolución ha generado alarmas, ya que los chatbots, que pueden generar respuestas en respuesta a indicaciones, tienen el potencial de reemplazar a las personas en sus trabajos y difundir desinformación.
Sam Altman , quien dirige OpenAI, ha dicho que la industria de IA de rápido crecimiento necesita ser regulada. En mayo, testificó en el Congreso para invitar a la legislación de IA y visitó a cientos de legisladores, con el objetivo de establecer una agenda política para la tecnología.
Un valeroso nuevo mundo. Una nueva cosecha de chatbots impulsados por inteligencia artificial ha iniciado una lucha para determinar si la tecnología podría cambiar la economía de Internet , convirtiendo a las potencias actuales en pasados y creando los próximos gigantes de la industria. Aquí están los bots para saber:
Bard, se lanzó en marzo a un número limitado de usuarios en los Estados Unidos y Gran Bretaña. Originalmente concebida como una herramienta creativa diseñada para redactar correos electrónicos y poemas, puede generar ideas, escribir publicaciones en blogs y responder preguntas con hechos u opiniones .
El gigante de las búsquedas Baidu dio a conocer el primer gran rival de China para ChatGPT en marzo. El debut de Ernie, abreviatura de Representación mejorada a través de la integración del conocimiento, resultó ser un fracaso después de que se revelara que se había grabado una demostración "en vivo" prometida del bot.
“Creo que si esta tecnología sale mal, puede salir bastante mal”, dijo en la audiencia de mayo. “Queremos trabajar con el gobierno para evitar que eso suceda”.
OpenAI ya ha estado bajo presión regulatoria a nivel internacional. En marzo, la autoridad de protección de datos de Italia prohibió ChatGPT, diciendo que OpenAI recopilaba ilegalmente datos personales de los usuarios y no contaba con un sistema de verificación de edad para evitar que los menores estuvieran expuestos a material ilícito. OpenAI restauró el acceso al sistema el mes siguiente, diciendo que había realizado los cambios solicitados por la autoridad italiana.
La FTC está actuando sobre la IA con notable rapidez, abriendo una investigación menos de un año después de que OpenAI introdujera ChatGPT. Lina Khan, la presidenta de la FTC, dijo que las empresas de tecnología deben ser reguladas mientras las tecnologías son incipientes, en lugar de solo cuando maduran.
En el pasado, la agencia generalmente iniciaba investigaciones después de un paso en falso público importante por parte de una empresa, como abrir una investigación sobre las prácticas de privacidad de Meta luego de informes de que compartió datos de usuarios con una firma de consultoría política, Cambridge Analytica, en 2018.
La Sra. Khan, quien testificó en una audiencia del comité de la Cámara el jueves sobre las prácticas de la agencia, dijo anteriormente que la industria de la IA necesitaba un escrutinio.
“Aunque estas herramientas son novedosas, no están exentas de las reglas existentes, y la FTC hará cumplir enérgicamente las leyes que estamos encargados de administrar, incluso en este nuevo mercado”, escribió en un artículo de opinión en The New York Times en mayo . “Si bien la tecnología avanza rápidamente, ya podemos ver varios riesgos”.
Lina Khan, presidenta de la Comisión Federal de Comercio, ha dicho que si bien la IA es nueva, "no está exenta de las reglas existentes".Crédito…Tom Brenner para The New York Times
La investigación podría obligar a OpenAI a revelar sus métodos para construir ChatGPT y qué fuentes de datos utiliza para construir sus sistemas de IA. Si bien OpenAI ha sido bastante abierto durante mucho tiempo sobre dicha información, más recientemente ha dicho poco sobre de dónde provienen los datos para sus sistemas de IA y cuánto se usa para construir ChatGPT, probablemente porque desconfía de que los competidores los copien y le preocupan las demandas sobre el uso de ciertos conjuntos de datos.
Los chatbots, que también están implementados por compañías como Google y Microsoft, representan un cambio importante en la forma en que se construye y usa el software de computadora. Están preparados para reinventar los motores de búsqueda de Internet como Google Search y Bing, asistentes digitales parlantes como Alexa y Siri, y servicios de correo electrónico como Gmail y Outlook.
Cuando OpenAI lanzó ChatGPT en noviembre, instantáneamente capturó la imaginación del público con su capacidad para responder preguntas, escribir poesía y hacer riffs sobre casi cualquier tema. Pero la tecnología también puede combinar realidad con ficción e incluso inventar información, un fenómeno que los científicos llaman “ alucinación ”.
Por: NEWYORK TIMES