En un escenario que es en parte «Robocop» y en parte «Sentencia Previa», los investigadores de China han creado una IA que, según se informa, puede identificar delitos y presentar cargos contra los delincuentes.
La IA fue desarrollada y probada por el Procratorate del Pueblo de Shanghai Pudong, la fiscalía pública de distrito más grande del país, informa South China Morning Post . Puede presentar un cargo con una precisión de más del 97 por ciento según una descripción de un caso criminal sospechoso.
«El sistema puede reemplazar a los fiscales en el proceso de toma de decisiones», dijeron los investigadores en un artículo publicado en Management Review.
Sistema 206
El equipo construyó la máquina a partir de una herramienta de inteligencia artificial existente llamada siniestramente Sistema 206. Los fiscales en China ya estaban utilizando el sistema para ayudar a evaluar las pruebas y determinar si un presunto delincuente era peligroso para el público en general.
Sin embargo, fue bastante limitado ya que no pudo «participar en el proceso de toma de decisiones de presentar cargos y [sugerir] sentencias», dijo el equipo en el periódico. Eso requeriría que la IA pueda identificar y eliminar información irrelevante en un caso y procesar el lenguaje humano en su red neuronal.
La nueva IA desarrollada en Shanghai puede evaluar los expedientes de casos de esa manera. De hecho, la máquina puede identificar y acusar a los delincuentes de los ocho delitos más comunes del distrito: fraude con tarjetas de crédito, juegos de azar, conducción imprudente, asalto intencional, obstrucción a un oficial, robo, fraude e incluso disidencia política.
¿Quién vigila a los vigilantes?
Por supuesto, existe mucha preocupación acerca de una computadora poderosa con la capacidad de encarcelar a las personas . Un fiscal anónimo le dijo a SCMP que, si bien su precisión del 97 por ciento es bastante alta, «siempre habrá una posibilidad de error».
“¿Quién asumirá la responsabilidad cuando suceda? ¿El fiscal, la máquina o el diseñador del algoritmo?» dijo el abogado al periódico.
