Por Elvira Pollina y Martin Coulter
3 feb (Reuters) - La Agencia de Protección de Datos de Italia prohibió el viernes a la empresa de inteligencia artificial (IA) Replika utilizar los datos personales de usuarios italianos, alegando riesgos para menores y personas emocionalmente frágiles.
Replika, una startup de San Francisco lanzada en 2017, ofrece a los usuarios avatares personalizados que hablan y les escuchan.
Ha liderado el mercado entre los angloparlantes y su uso es gratuito, aunque obtiene unos 2 millones de dólares de ingresos mensuales por la venta de funciones extra como los chats de voz.
El "amigo virtual" se comercializa como capaz de mejorar el bienestar emocional del usuario.
Pero el organismo de control italiano afirma que, al intervenir en el estado de ánimo del usuario, "puede aumentar los riesgos para las personas que aún se encuentran en una fase de desarrollo o en un estado de fragilidad emocional".
Jen Persson, directora del grupo de defensa de la privacidad infantil Defend Digital Me, declaró a Reuters que las herramientas diseñadas para influir en el estado de ánimo o el bienestar mental de un niño deberían clasificarse como productos sanitarios y, por tanto, estar sujetas a normas de seguridad estrictas.
"Estas herramientas se están utilizando con niños sin mucha supervisión ni protección frente a posibles usos indebidos", afirmó.
Los reguladores italianos destacaron la ausencia de un mecanismo de verificación de la edad, como filtros para menores o un dispositivo de bloqueo si los usuarios no declaran explícitamente su edad.
Replika incumple la normativa europea sobre privacidad y procesa datos personales de forma ilegal, ya que no puede basarse, ni siquiera implícitamente, en un contrato que un menor no pueda firmar, dijo el organismo de control.
Replika no respondió inmediatamente a un correo electrónico de Reuters en busca de comentarios.
Robert Grosvenor, director gerente del bufete de abogados Alvarez & Marshall, dijo que era poco probable que el organismo de control italiano fuera el único regulador europeo que se planteara tomar medidas contra empresas como Replika.
"Mientras que la verificación de la edad podría proporcionar medios para proteger a algunos de los grupos más vulnerables, no aborda los riesgos y daños que los servicios y soluciones basados en la IA pueden plantear si no están regulados, en términos de potencial de sesgo y discriminación involuntarios", dijo. (Reportaje de Elvira Pollina; redacción de Gianluca Semeraro; Editado en español por Juana Casas)
Últimas Noticias
EEUU levanta las sanciones al petróleo de Irán que ya está cargado en buques
Washington autoriza transacciones con crudo iraní presente en embarcaciones desde marzo, tras una escalada en Oriente Próximo que elevó el costo internacional del combustible y generó tensiones por el cierre temporal de rutas marítimas clave en la región
Irán amenaza con atacar el puerto de Ras al Jaima, en EAU, si se "reanudan" ataques desde territorio emiratí
El ejército de Teherán advierte que responderá de forma contundente ante cualquier ofensiva emiratí sobre las disputadas islas del golfo Pérsico, luego de la interceptación de misiles y drones atribuidos a la República Islámica
Trump ve bien que EEUU se retire de las bases militares de Rota y Morón
El mandatario estadounidense respalda la propuesta de retirar unidades militares tras el veto del gobierno español a su uso en conflictos con Irán, criticando además la falta de apoyo europeo en la defensa del estratégico estrecho de Ormuz
El Bournemouth rescata otro empate ante el Manchester United
El Manchester United desperdició la oportunidad de afianzarse en la clasificación tras igualar 2-2 frente a un rival que, con cinco duelos consecutivos sin vencer, sigue sumando en la mitad de la tabla de la Premier League
La pegada del Villarreal desmonta a la Real en 20 minutos
Un arranque imparable en La Cerámica le permitió al equipo de Marcelino anotar tres goles en menos de media hora ante un rival que reaccionó tarde y perdió la oportunidad de seguir peleando los puestos europeos de LaLiga
