El uso de inteligencia artificial (IA) en la lucha contra la violencia de género (VG) ha cobrado creciente relevancia, en particular mediante agentes conversacionales o chatbots diseñados para brindar apoyo a las víctimas. Sin embargo, la implementación de estas herramientas no está exenta de riesgos. Este artículo analiza las amenazas en el uso de agentes conversacionales inteligentes o chatbots en la atención de la VG y propone una taxonomía de estas amenazas basada en el enfoque de threat modeling. A partir del análisis de la literatura especializada y de experiencias existentes, se identifican vulnerabilidades tecnológicas, sesgos algorítmicos y limitaciones éticas que pueden comprometer la seguridad y efectividad de estas herramientas. Además, se discute cómo la IA Feminista puede contribuir a la creación de sistemas más inclusivos y sensibles a las necesidades de las víctimas. La propuesta de taxonomía presentada ofrece un marco de referencia para el diseño de chatbots con un enfoque ético, priorizando la privacidad, la autonomía y la seguridad de las usuarias.
El uso de inteligencia artificial (IA) en la lucha contra la violencia de género (VG) ha cobrado creciente relevancia, en particular mediante agentes conversacionales o chatbots diseñados para brindar apoyo a las víctimas. Sin embargo, la implementación de estas herramientas no está exenta de riesgos. Este artículo analiza las amenazas en el uso de agentes conversacionales inteligentes o chatbots en la atención de la VG y propone una taxonomía de estas amenazas basada en el enfoque de threat modeling. A partir del análisis de la literatura especializada y de experiencias existentes, se identifican vulnerabilidades tecnológicas, sesgos algorítmicos y limitaciones éticas que pueden comprometer la seguridad y efectividad de estas herramientas. Además, se discute cómo la IA Feminista puede contribuir a la creación de sistemas más inclusivos y sensibles a las necesidades de las víctimas. La propuesta de taxonomía presentada ofrece un marco de referencia para el diseño de chatbots con un enfoque ético, priorizando la privacidad, la autonomía y la seguridad de las usuarias. Read More
Related posts:
IA en Argentina: innovación, regulación y el futuro de los datos
El principio de no discriminación y la discriminación múltiple como estándares internacionales de derechos humanos aplicables en la política de restitución de tierras
Validación del “cuestionario para evaluar la atención prestada por los servicios de atención a mujeres mayores víctimas de violencia de género”
Estandarización de guías de aprendizaje con competencias ESCO y taxonomía Bloom
ARGOS: Herramienta para la simulación de rutas
de ataque en entornos de conciencia cibersituacional
Tecnología predictiva y datos en tiempo real: la nueva frontera de la seguridad logística