Para un tribunal, lo que dice la IA de Google, es Google hablando

Un tribunal de Múnich, en Alemania, responsabilizó a Google por las afirmaciones falsas de sus resúmenes con IA. El caso es chico, y es el primero, pero la idea de fondo puede complicar las cosas a media industria que esta eligiendo la AI como la verdad absoluta.

Dos editoriales de Múnich descubrieron que los AI Overviews de Google las vinculaban con estafas y prácticas comerciales fraudulentas. Y no es que simplemente lo insinuaban: uno de los resúmenes afirmaba sin vueltas que la empresa era conocida por prácticas dudosas, con títulos y señales de alerta.** La IA había confundido a estas editoriales con otras compañías que sí eran cuestionables**, y armó conexiones que no figuraban en ninguna de las fuentes que citaba.

La diferencia con este fallo fue la clasificación: el Tribunal Regional de Múnich decidió que ese resumen no es una lista neutral de resultados ajenos, sino contenido propio de Google. Basicamente: si lo escribiste vos, respondés vos. Adiós a la defensa del "intermediario neutral".

De ahí salió la frase que recorrió la cobertura: nadie necesita la IA para buscar en internet. Los jueces lo plantearon como una función adicional, prescindible, que no te exime de hacerte cargo cuando le atribuye cosas falsas a fuentes inventadas. También liquidaron el clásico "el usuario puede verificar con los enlaces": poder refutar algo investigando por tu cuenta no te libera de haberlo afirmado. Y conviene recordar que casi nadie verifica nada. Apenas el 1% de los usuarios hace clic en los enlaces de un AI Overview. El resto, lee el resumen y sigue.

Para quien arma productos con LLM, el aviso es bastante claro. Si tu sistema sintetiza información y la afirma con tono seguro, tarde o temprano alguien va a sostener que esa es tu voz. Y eso trae costos nuevos: verificación, revisión humana (HEEEELLLLLOOOOO?), una forma rápida de corregir cuando aparece un reclamo. Un detalle importante que pesó en la decisión del tribunal es que Google no corrigió nada, ni siquiera después de la carta de cease and desist.

Lo otro importante a tener en cuenta es que la medida aplica "solo" a Alemania (varias fuentes la dan por aplicable en toda la UE), y es de las primeras en el mundo que pone a una empresa a responder por lo que inventa su IA. Google ya anunció que va a apelar, obvio.

La pregunta que en general se venía esquivando y nadie se animaba a contestar ahora es bastante clara y a la vista: un resumen de IA es un buscador o es un editor? Múnich eligió "editor". Si el fallo y la idea se instala, equivocarse deja de ser un error tolerado y pasa a ser un problema legal.

Articulo original: Nobody needs AI to search the Internet, court says in ruling against Google