Fue encarcelado por el error de un sistema de IA

En enero de 2022 tuvo lugar un asalto en una tienda Sunglass Hut, perteneciente a EssilorLuxottica, ubicada en la ciudad texana de Houston. En ese momento, dos sujetos armados sustrajeron miles de dólares en efectivo y mercancías.

En la denuncia interpuesta por el demandante Harvey Murphy, de 61 años, se detalla que las autoridades locales comenzaron de inmediato a investigar los hechos. Posteriormente, el jefe de prevención de pérdidas de EssilorLuxottica, Anthony Pfleger, se comunicó con la Policía para informar que habían identificado al ladrón.

De acuerdo con la demanda, se proporcionaron los videos del robo al programa de reconocimiento facial de Macy’s, que determinó que Murphy era uno de los responsables. Incluso, se menciona que el sistema concluyó que también había cometido otros robos.

Finalmente, se emitió una orden de arresto contra Murphy, luego de que una empleada de la tienda declarara que era quien la había asaltado. En octubre de 2022, Murphy fue arrestado y encarcelado en una prisión del condado de Harris, cuando intentaba renovar su licencia de conducir.

Según los abogados del demandante, este se encontraba en la ciudad californiana de Sacramento cuando se cometió el robo. Asimismo, argumentaron que el reconocimiento facial es susceptible de cometer errores, además de que las cámaras eran de baja calidad, lo que aumentaba las probabilidades de que el sistema fallara al momento de identificar a un sospechoso.

Los fiscales liberaron al damnificado y le retiraron los cargos, después de que pasara en prisión casi dos semanas. Murphy denunció que durante el arresto fue agredido sexualmente por tres hombres, lo que le dejó “heridas de por vida”.

En la demanda, solicitó una indemnización de 10 millones de dólares, alegando que su arresto y encarcelamiento fueron el producto de una grave negligencia de la empresa que empleó el sistema de reconocimiento facial.