La policía de Estados Unidos está usando IA para redactar informes policiales
Una IA llamada Draft One, basada en ChatGPT, redacta los informes policiales de la policía estadounidense, revisando la cámara que llevan en su cuerpo.
Getty Images
Para la mayoría de los policías, lo más tedioso de su trabajo, es el papeleo. Según la empresa Axon, los policías estadounidenses pasan tres horas al día redactando informes. Pueden reducirlo a unos minutos usando una IA llamada Draft One, que está causando polémica.
Draft One genera informes policiales a partir de las grabaciones que los policías de Estados Unidos llevan a cabo con la cámara que tienen en su cuerpo, normalmente en el pecho o el hombro.
Estos informes policiales creados con inteligencia artificial les ahorra mucho trabajo, pero siembran dudas por la capacidad de la IA para alucinar, por sus condicionamientos raciales, y por una supuesta violación de la privacidad.
Así funciona Draft One, la IA que redacta informes policiales
Axon es una empresa que fabrica las pistolas Taser y las cámaras corporales que usa la policía en Estados Unidos, y también en España. Es la creadora de Draft One.
Draft One se conecta a la nube Azure de Microsoft y usa una variante personalizada de ChatGPT para crear los informes policiales, utilizando únicamente el audio de la cámara corporal.
Axon asegura que, al usar solo el audio, la IA solo se centra en los hechos, no "fantasea". Además, han añadido más guardarraíles que los que tiene ChatGPT, para reducir las alucinaciones.
Según los policías que lo han probado, esta IA les ahorra entre 35 y 40 minutos por informe. Se encarga de resumir los hechos, basándose en el audio, y los policías añaden los nombres y correcciones. Tienen obligación de leer y corregir lo que ha escrito la IA, y además estos informes poseen una marca especial que indica que han sido creados con IA.
Axon no revela a qué departamentos de policía ha vendido su IA para redactar informes policiales, pero se sabe que cada uno los usa de diferente forma.
Según cuenta TechSpot, en Oklahoma la IA solo se usa para redactar informes menores en donde no se han producido arrestos ni crímenes violentos. En cambio, en Lafayette y Fort Collins se emplea para todo, incluyendo crímenes graves.
Aunque resulta positivo que la policía pase menos tiempo redactando informes y más sirviendo a los ciudadanos, hay dudas sobre la capacidad de Draft One para no alucinar, en temas tan sensibles como un arresto o un crimen.
Ya hemos visto casos de ChatGPT dejando en ridículo a abogados poco profesionales, porque se había inventado casos judiciales.
Por otro lado, tampoco está claro hasta qué punto esta IA vulnera la privacidad de las personas, porque ese audio de las cámaras policiales, que contiene nombres, confesiones y actos privados, se procesa en servidores remotos de Microsoft, fuera del entorno policial y judicial.
La IA ya redacta los informes criminales de los policías de Estados Unidos, lo que ha generado polémica. ¿Dónde están los límites?
Conoce cómo trabajamos en ComputerHoy.
Etiquetas: Inteligencia artificial, policía