/ viernes 3 de febrero de 2023

Italia prohíbe a la empresa de inteligencia artificial Replika utilizar datos personales

Replika ofrece a los usuarios avatares personalizados que hablan y les escuchan

La Agencia de Protección de Datos de Italia prohibió el viernes a la empresa de inteligencia artificial (IA) reproducir los datos personales de los usuarios de Italia , alegando riesgos para menores y personas emocionalmente frágiles.

Replika, una startup de San Francisco lanzada en 2017, ofrece a los usuarios avatares personalizados que hablan y les escuchan.

Lee también: Gemelos digitales: Una réplica a nuestro servicio

Ha liderado el mercado entre los angloparlantes y su uso es gratuito, aunque obtiene unos 2 millones de dólares de ingresos mensuales por la venta de funciones extra como los chats de voz.

El "amigo virtual" se comercializa como capaz de mejorar el bienestar emocional del usuario.

Pero el organismo de control italia no afirma que, al intervenir en el estado de ánimo del usuario, "puede aumentar los riesgos para las personas que aún se encuentran en una fase de desarrollo o en un estado de fragilidad emocional".

Jen Persson, directora del grupo de la privacidad infantil Defend Digital Me, declaró a Reuters que las herramientas diseñadas para influir en el estado de ánimo o el bienestar mental de un niño se identificaron como productos sanitarios y, por tanto, estar sujetas a normas de seguridad estrictas.

“Estas herramientas se están utilizando con niños sin mucha supervisión ni protección frente a posibles usos indebidos”, afirmó.

Los reguladores italia nos destacaron la ausencia de un mecanismo de verificación de la edad, como filtros para menores o un dispositivo de bloqueo si los usuarios no declaran limpiamente su edad.

Replika incumple la normativa europea sobre privacidad y procesamiento de datos personales de forma ilegal, ya que no puede basarse, ni siquiera de forma implícita, en un contrato que un menor no puede firmar, dijo el organismo de control.

Replika no respondió inmediatamente a un correo electrónico de Reuters en busca de comentarios.

Robert Grosvenor, director gerente del bufete de abogados Alvarez & Marshall, dijo que era poco probable que el organismo de control italia no fuera el único regulador europeo que se planteara tomar medidas contra empresas como Replika.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

"Mientras que la verificación de la edad podría proporcionar medios para proteger a algunos de los grupos más vulnerables, no aborda los riesgos y daños que los servicios y soluciones basadas en la IA pueden plantear si no están regulados, en términos de potencial de sesgo y discriminación involuntaria”, dijo.

La Agencia de Protección de Datos de Italia prohibió el viernes a la empresa de inteligencia artificial (IA) reproducir los datos personales de los usuarios de Italia , alegando riesgos para menores y personas emocionalmente frágiles.

Replika, una startup de San Francisco lanzada en 2017, ofrece a los usuarios avatares personalizados que hablan y les escuchan.

Lee también: Gemelos digitales: Una réplica a nuestro servicio

Ha liderado el mercado entre los angloparlantes y su uso es gratuito, aunque obtiene unos 2 millones de dólares de ingresos mensuales por la venta de funciones extra como los chats de voz.

El "amigo virtual" se comercializa como capaz de mejorar el bienestar emocional del usuario.

Pero el organismo de control italia no afirma que, al intervenir en el estado de ánimo del usuario, "puede aumentar los riesgos para las personas que aún se encuentran en una fase de desarrollo o en un estado de fragilidad emocional".

Jen Persson, directora del grupo de la privacidad infantil Defend Digital Me, declaró a Reuters que las herramientas diseñadas para influir en el estado de ánimo o el bienestar mental de un niño se identificaron como productos sanitarios y, por tanto, estar sujetas a normas de seguridad estrictas.

“Estas herramientas se están utilizando con niños sin mucha supervisión ni protección frente a posibles usos indebidos”, afirmó.

Los reguladores italia nos destacaron la ausencia de un mecanismo de verificación de la edad, como filtros para menores o un dispositivo de bloqueo si los usuarios no declaran limpiamente su edad.

Replika incumple la normativa europea sobre privacidad y procesamiento de datos personales de forma ilegal, ya que no puede basarse, ni siquiera de forma implícita, en un contrato que un menor no puede firmar, dijo el organismo de control.

Replika no respondió inmediatamente a un correo electrónico de Reuters en busca de comentarios.

Robert Grosvenor, director gerente del bufete de abogados Alvarez & Marshall, dijo que era poco probable que el organismo de control italia no fuera el único regulador europeo que se planteara tomar medidas contra empresas como Replika.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

"Mientras que la verificación de la edad podría proporcionar medios para proteger a algunos de los grupos más vulnerables, no aborda los riesgos y daños que los servicios y soluciones basadas en la IA pueden plantear si no están regulados, en términos de potencial de sesgo y discriminación involuntaria”, dijo.

Local

Consulta el cierre de calles en el centro de Toluca por Semana Santa

El Ayuntamiento implementará un operativo vial, el cual contempla la participación de 80 policías

Local

¿Ya pagaste el refrendo de tu vehículo en Edomex? El plazo vence en unos días

Pueden realizar el pago en los más de 3 mil puntos de pago, así como los Módulos Integrales de Recaudación ubicados en plazas comerciales.

Finanzas

Si sales de viaje no olvides tu licencia; en Edomex la multa por no llevarla golpearía tu bolsillo

Según el reglamento de tránsito del Edomex, para este 2024 las sanciones tuvieron una ligera modificación

Local

¿Cuántos incendios forestales se han registrado en Edomex durante 2024?

Hay más de cinco mil hectáreas afectadas en el presente año; vendrán dos meses de sequía

Local

Fiscalía del Edomex apelará cambio de medida cautelar en favor del ex alcalde de Toluca

Hace unos días un juez ordenó que Raymundo N continúe su proceso por el delito de secuestro exprés fuera de prisión

Policiaca

Aseguran dos inmuebles en Toluca relacionados con supuestas extorsiones contra polleros

Algunos comerciantes minoristas eran obligados a comprar pollo en estos lugares y pagar una cuota de 48 pesos por kilo a cambio de no hacerles daño