Justicia algorítmica: ¿Es posible el score crediticio sin pedir datos privados?
Los bancos puede prestar dinero sin revisar el historial crediticio ni los ingresos del cliente. Una compañía argentina dice tener el enfoque preciso para no invadir la privacidad.
Por Álvaro Montes
Para decidir si otorga un crédito o no, Credolab no investiga tu edad, raza, ingresos ni antecedentes financieros. Le basta comparar tu uso y comportamiento con el teléfono móvil, que compara con el uso y comportamiento de otros buenos pagadores y determina si eres propenso a cumplir tus compromisos. Es un enfoque alternativo, que respeta la privacidad, o al menos eso asegura Julio Ballestero, vocero de la compañía argentina que se expande por Latinoamérica.El 45 por ciento de los latinoamericanos no están bancarizados y por tanto, permanecen por fuera de los beneficios del crédito, del ahorro y de los productos financieros más elementales. “Un buró tradicional los pone en la base de la pirámide, pero nuestra herramienta permite saber si un informal, por ejemplo un taxista, se comportará como un score de 800 puntos o como un malapaga”, explica Ballestero. La magia la pone el análisis de metadatos. Los candidatos a clientes de una institución financiera deben descargar una app, que accede a los metadatos del dispositivo. La plataforma Credolab no lee los contactos ni información del propietario, sino cosas como cuándo tomó la última foto, si con la cámara frontal o la posterior, cuántos SMS tiene leídos y sin leer; información de esa naturaleza. En ningún caso información personal del usuario. El enfoque alternativo utiliza algoritmos que analizan millones de datos e identifican las variables de mayor ponderación para establecer que una persona tiene o no propensión al pago de sus deudas. Un modelo comportamental.
“Para evitar cualquier sesgo un algoritmo debe trabajar con datos no alineados, que no indiquen si viene de alguien gordo o flaco, rico o pobre, hombre o mujer” En el modelo tradicional imperante en el sector financiero, el score está determinado por el historial crediticio de cada cliente. Cada uno tiene un score asociado que representa la probabilidad de pago de esa persona. Eso tiene dos problemas: uno, el banco sabe todo acerca del cliente; dos) los no bancarizados están pro fuera, porque bajo este enfoque no es posible prestarles dinero, ya que carecen de historial crediticio.La injusticia de los algoritmos
Un periodista de The New York Time puso a prueba el año pasado las plataformas de scoring convencionales, que también utilizan Inteligencia Artificial para determinar si se otorga un crédito o un producto a un cliente que lo solicita. Porque en el sistema financiero norteamericano el scoring está enteramente en manos de plataformas tecnológicas. Una pareja de esposos, de misma condición profesional, similares ingresos y exacta ubicación geográfica, solicitaron una tarjeta de crédito, que el sistema “inteligente” otorgó al hombre y negó a la mujer. La razón: el sesgo machista del algoritmo, heredado de sus desarrolladores. La información personal del cliente genera injusticias algorítmicas, que afectan los resultados. Es la explicación por la que se determinan diferentes calificaciones para mismos perfiles financieros
“Para evitar cualquier sesgo un algoritmo debe trabajar con datos no alineados, que no indiquen si viene de alguien gordo o flaco, rico o pobre, hombre o mujer”, explica Julio Ballestero, quien recuerda que hace unos años se había puesto de moda un enfoque que creaba score a través de los contactos de un cliente. Los contactos en las redes sociales generaban un score. ¿Qué pasó con eso? Se puso en riesgo la confidencialidad, porque se entregaba al banco información personal, provenientes del mundo real.
¿Es creíble que, sin preguntar nada al cliente y sin conocer sus estados financieros ni sus relaciones personales, se puede saber si pagará una deuda? Credolab no tiene datos de una persona física, no hay nombres, apellidos, emails ni números de teléfonos. Utiliza grandes cantidades de datos sobre usos del móvil, para hacer inferencias. La solución realiza evaluaciones de riesgo crediticio al observar el comportamiento de los clientes y cómo usan su smartphone en comparación con cómo los clientes morosos usan sus teléfonos. Accediendo a casi 1,3 millones de funciones (en el caso de dispositivos Android) encuentra los patrones de comportamiento y brinda el scoring crediticio, en tan solo segundos.
72 instituciones financieras en el mundo utilizan este enfoque, que suena prometedor justo cuando la privacidad de los datos cobra relevancia y cuando los algoritmos, que intervienen en casi todos los campos de la vida cotidiana, están en el centro de la polémica, por sus sesgos y sus injusticias.
¿Qué piensas?