Google responde por los errores de su inteligencia artificial: la sentencia que puede cambiar el futuro de la IA
La inteligencia artificial está cambiando la forma en la que buscamos y consumimos información. Cada vez es más habitual que herramientas como Google AI Overviews respondan directamente a las preguntas de los usuarios mediante resúmenes generados por inteligencia artificial, sin necesidad de acceder a las páginas web originales.
Pero esta novedad tecnológica plantea una cuestión jurídica cada vez más importante: ¿quién responde cuando una inteligencia artificial genera información falsa?
Esta es, precisamente, la cuestión que ha analizado el Tribunal Regional de Múnich en una resolución de hace un mes que puede marcar un antes y un después en la responsabilidad legal de los sistemas de inteligencia artificial.
Aunque la sentencia todavía puede ser recurrida, su mensaje es claro: cuando una IA genera afirmaciones propias que perjudican a terceros, la empresa que la desarrolla no puede renunciar a su responsabilidad alegando que el contenido ha sido creado automáticamente y que no ha sido consecuencia suya.
El problema jurídico: ¿Quién responde cuando una IA se equivoca?
Hasta ahora, las grandes plataformas tecnológicas han defendido que los sistemas de inteligencia artificial funcionan como una herramienta de apoyo y que corresponde a los usuarios verificar la información consultando las fuentes originales.
Sin embargo, el Tribunal Regional de Múnich considera que este argumento ya no resulta suficiente.
La diferencia es fácil de comprender.
Un buscador tradicional muestra enlaces a páginas web creadas por terceros. En cambio, una inteligencia artificial analiza distintas fuentes, selecciona información, la reorganiza y redacta una respuesta totalmente nueva.
Por ello, el tribunal entiende que el contenido generado por la IA no puede considerarse una reproducción de información ajena, sino una creación propia de la plataforma de inteligencia artificial.
Y, si esa creación contiene afirmaciones falsas o difamatorias, quien la genera también debe asumir las consecuencias jurídicas que de ella se deriven.
El caso que dio origen a la sentencia
El procedimiento comenzó tras la demanda presentada por dos editoriales alemanas.
Los resúmenes generados por Google AI Overviews las relacionaban con estafas, prácticas comerciales desleales y otros comportamientos fraudulentos.
Sin embargo, ninguna de las fuentes citadas por la propia inteligencia artificial contenía esas afirmaciones.
La IA había mezclado información de distintas empresas y generado una conclusión que no aparecía en ninguno de los sitios web utilizados como referencia.
Las editoriales solicitaron a Google que eliminara esas afirmaciones, pero la compañía no impidió que siguieran apareciendo respuestas similares.
Este hecho fue relevante para el tribunal, ya que consideró que Google tenía capacidad para actuar sobre el funcionamiento de su sistema y evitar que continuaran difundiéndose esas afirmaciones.
¿Por qué el tribunal considera responsable a Google?
La clave de la resolución está en la naturaleza de los AI Overviews.
Según el tribunal, estos resúmenes no se limitan a mostrar información existente en Internet.
La inteligencia artificial interpreta el contenido, lo combina con información procedente de diferentes páginas y redacta una respuesta con una estructura y unas palabras propias.
Por ese motivo, la resolución considera que esas respuestas constituyen declaraciones de Google y no simples referencias a contenidos de terceros.
En consecuencia, la empresa no puede acogerse al régimen de responsabilidad limitada que tradicionalmente ha protegido a los motores de búsqueda convencionales.
La diferencia entre un buscador y una inteligencia artificial
Durante años, los buscadores se han beneficiado de una protección jurídica basada en una idea sencilla: su función consiste en facilitar el acceso a información publicada por terceros.
Mostrar un enlace no significa asumir la responsabilidad sobre el contenido de esa página.
Sin embargo, el funcionamiento de la inteligencia artificial es diferente.
La IA no solo recopila información, sino que la interpreta, la reorganiza y elabora un texto completamente nuevo.
Ese cambio tecnológico también supone un cambio jurídico.
Cuando una plataforma genera contenido propio, deja de actuar como intermediaria y pasa a asumir una responsabilidad mucho mayor sobre su propia creación, la cual comunica a los usuarios.
¿Basta con advertir que la IA puede cometer errores?
Uno de los argumentos utilizados por Google fue que los usuarios siempre pueden comprobar la información consultando las fuentes originales.
El tribunal rechazó este contraargumento.
Los jueces consideran que los AI Overviews ofrecen respuestas completas que muchos usuarios aceptan como correctas sin necesidad de abrir los enlaces que aparecen debajo.
Precisamente por eso, no basta con incluir advertencias indicando que la inteligencia artificial puede equivocarse.
Si una empresa desarrolla una herramienta diseñada para ofrecer respuestas fiables, también debe adoptar medidas para reducir el riesgo de que esas respuestas sean falsas o difamatorias.
Una sentencia que puede afectar a toda la industria de la IA
Aunque la resolución se refiere específicamente a Google AI Overviews, sus consecuencias podrían ir mucho más allá.
Actualmente existen numerosas herramientas capaces de generar respuestas mediante inteligencia artificial, resumir información o redactar contenido automáticamente.
Si otros tribunales siguen un criterio similar al de los tribunales alemanes, las empresas que desarrollan este tipo de tecnologías podrían verse obligadas a reforzar sus mecanismos de supervisión, revisión y corrección de los contenidos generados por sus modelos.
La cuestión ya no es únicamente si una IA puede equivocarse.
La verdadera pregunta es quién debe responder cuando ese error causa un perjuicio a una persona, una empresa o una organización.
¿Qué supone esta sentencia para las empresas?
Esta resolución envía un mensaje que va mucho más allá del caso concreto.
Cada vez más organizaciones utilizan herramientas de inteligencia artificial para elaborar documentos, generar contenidos, atender consultas, analizar información o automatizar procesos.
La sentencia recuerda que el uso de estas tecnologías no elimina la responsabilidad jurídica.
Las empresas deberán valorar qué sistemas utilizan, cómo verifican la información generada y qué controles existen para evitar que se difundan datos incorrectos o perjudiciales que dañen a terceros.
La inteligencia artificial ofrece enormes ventajas, pero también exige una gestión responsable de los riesgos legales que puede generar.l.
Lo que realmente cambia esta sentencia
La importancia de esta resolución no reside únicamente en que Google haya sido considerado responsable de las respuestas generadas por su inteligencia artificial.
Lo verdaderamente relevante es que el tribunal establece un criterio que puede influir en futuras decisiones judiciales sobre inteligencia artificial generativa.
Hasta ahora, muchas plataformas habían sostenido que los errores de la IA debían interpretarse como una limitación derivada de la tecnología.
Sin embargo, esta resolución apunta en otra dirección.
Cuando una empresa desarrolla un sistema capaz de generar contenido propio y lo pone a disposición de millones de usuarios, también debe asumir las consecuencias derivadas de su funcionamiento.
En otras palabras, la innovación tecnológica no elimina las obligaciones jurídicas.
Por qué esta sentencia es relevante desde el punto de vista de Seinale
En Seinale seguimos de cerca la actualidad y, sobre todo, este tipo de resoluciones porque anticipan hacia dónde evoluciona el Derecho Digital.
Como bien hemos podido observar, la inteligencia artificial ya forma parte de la actividad diaria de miles de empresas. Se utiliza para crear contenidos, automatizar procesos, prestar servicios, analizar datos y apoyar la toma de decisiones. Sin embargo, su incorporación también plantea nuevos retos relacionados con la responsabilidad, la transparencia, la protección de derechos y el cumplimiento normativo.
Esta sentencia visibiliza que el debate ya no gira únicamente en torno a las capacidades de la inteligencia artificial, sino también sobre las obligaciones legales de quienes la desarrollan, la comercializan o la utilizan.
Desde Seinale consideramos que este tipo de resoluciones marcarán la evolución de la regulación de la inteligencia artificial en los próximos años y servirán de referencia para futuros conflictos relacionados con los sistemas de IA generativa, que creemos que aumentaran debido a que la gente no es consciente de cómo pueden afectar sus actuaciones al utilizar un sistema de inteligencia artificial, una tecnología cuyo uso generalizado es relativamente reciente.
Por ello, resulta esencial que las empresas no solo aprovechen las oportunidades que ofrece esta tecnología, sino que también analicen los riesgos jurídicos asociados a su utilización y adopten medidas que garanticen un uso responsable y conforme a la normativa.
Nuestro objetivo es ayudar a empresas y organizaciones a incorporar la inteligencia artificial con seguridad jurídica, anticipándose a los cambios regulatorios y minimizando los riesgos legales derivados de su uso.
¿Está tu empresa preparada para asumir la responsabilidad jurídica derivada del uso de la inteligencia artificial?
Cada vez más empresas utilizan herramientas de IA en sus procesos diarios sin conocer realmente los riesgos legales que pueden generar. Anticiparse hoy puede evitar reclamaciones, sanciones y daños reputacionales mañana.
Un nuevo escenario para la inteligencia artificial
La inteligencia artificial ya no es una tecnología del futuro. Es una realidad presente que está transformando la forma en la que accedemos a la información y tomamos decisiones.
Esta sentencia demuestra que, a medida que la IA adquiere un papel activo en la creación de contenidos, también aumenta el nivel de responsabilidad exigido a quienes la desarrollan.
Aunque la resolución todavía puede ser recurrida, esta sentencia lanza un mensaje claro y esencial desde nuestro punto de vista, debido a la rapidez con la que evoluciona la IA: las empresas no pueden escaquearse en que una respuesta ha sido generada automáticamente cuando esa respuesta puede perjudicar a terceros.
Nos encontramos ante uno de los primeros grandes pronunciamientos judiciales sobre la responsabilidad de la inteligencia artificial, y todo apunta a que marcará el inicio de un nuevo modelo jurídico en el que la innovación de la IA deberá ir siempre acompañada de transparencia, diligencia y responsabilidad.
Imagenes: Freepiks
