Google Earth desactiva su herramienta de IA 24 horas después de lanzarla por esta razón

Google Earth desactivó una nueva herramienta de inteligencia artificial apenas 24 horas después de su lanzamiento, luego de que usuarios e investigadores demostraran que podía utilizarse para crear imágenes aéreas falsas con apariencia realista, informa The New York Times.

La función, activada mediante una sencilla instrucción, permitía modificar la vista satelital de prácticamente cualquier punto del planeta y generar imágenes a partir de una descripción escrita. La herramienta había sido diseñada para usos creativos, como imaginar cómo podría verse un terreno en el futuro, reconstruir el aspecto de un lugar hace un siglo o transformar determinados espacios con escenarios de ciencia ficción.

Para ello, la IA utilizaba como base imágenes satelitales, aéreas y modelos 3D reales de Google Earth. Sin embargo, poco después de su lanzamiento los usuarios descubrieron que también podían emplearla para representar situaciones que nunca habían ocurrido.

Escenarios falsos ‘verificados’

Investigadores de inteligencia de código abierto, periodistas y otros usuarios mostraron ejemplos de plantas nucleares inexistentes, campos de refugiados, bosques incendiados, ciudades inundadas, accidentes automovilísticos y otros escenarios potencialmente sensibles. El investigador Henk van Ess, por ejemplo, generó imágenes de una planta nuclear en Irán, un hospital bombardeado en Gaza y un accidente mortal en Ámsterdam.

El principal problema señalado fue que las imágenes podían resultar especialmente convincentes al estar construidas sobre ubicaciones reales y mantener elementos visuales propios de las imágenes satelitales. La iluminación, los ángulos y los colores podían hacer que una escena inventada pareciera formar parte de una captura auténtica de Google Earth. Esto generó preocupación debido a que la plataforma es utilizada habitualmente para comprobar acontecimientos y verificar información.

Google reconoció que había observado imágenes generadas que parecían infringir sus políticas y anunció la suspensión de la función. Aunque las imágenes generadas incorporaban una marca de agua digital para indicar que habían sido creadas mediante IA, algunas podían eludir las herramientas de detección después de ser compartidas como simples capturas de pantalla.