Extracting Explainable Value from Artificial Intelligence (EN/SP)

The latest Economist Intelligence Unit (EIU) report: ‘Overseeing AI: Governing artificial intelligence in banking’ sponsored by Temenos, takes a deep dive into the complex world of Artificial Intelligence (AI). Like many new technologies before it, AI is still at the stage where it has to prove itself to be useful to bank customers. There is still healthy scepticism in the minds of customers around the use of AI by banks, and it will take time for that to be broken down.

The current COVID-19 has seen banks’ use of AI increasing because they had to enhance their abilities to provide customers with essential services while adapting to the difficulties of home-working and closed branches. There were just not enough people to go around. But the disruption to businesses and households has only just begun, and banks will need to adapt to rapidly changing customer needs.

The criticality of AI adoption is only likely to increase in the post-pandemic era: its safe and ethical deployment is now more urgent than ever. However, paradoxically, banks have to tread warily and keep an eye on the regulators. 

The ability to extract value from artificial intelligence (AI) will sort the winners from the losers in banking, according to 77% of bank executives surveyed by The  EIU in February and March 2020. AI platforms were the second-highest priority area of technology investment, the survey found, behind only cybersecurity.

The main findings of the report are:

• AI will separate the winning banks from the losers and 77% of executives in the industry agree
• Covid-19 may intensify the use of AI, making effective governance more urgent
• A review of regulatory guidance reveals significant concerns including data bias, “black box” risk and a lack of human oversight
• Guidance and regulation has so far been “light touch” but firmer rules may be required as the use of AI intensifies

Excluding humans from processes involving AI weakens their monitoring and could threaten the integrity of models. At the root of these risks is AI’s increasing complexity, says Prag Sharma, senior vice-president and emerging technology lead at Citi Innovation Labs: “Some AI models can look at millions or sometimes billions of parameters to reach a decision,” he said to the EUI. “Such models have a complexity that many organisations, including banks, have never seen before.”

Andreas Papaetis, a policy expert with the European Banking Authority (EBA), believes this complexity—and especially the obstacles it poses to explainability—are among the chief constraints on European banks’ use of AI to date.

For regulators, supreme among the ethical standards must be fairness—ensuring that decisions in lending and other areas do not unjustly discriminate against individuals or specific groups of people. Concerns about this can only have increased since the huge UK exam system debacle where an algorithm discriminated against students depending on where they lived and what school they went to.

De Nederlandsche Bank (or DNB, the central bank of the Netherlands) emphasises the need for regular reviews of AI model decisions by domain experts, what they call the “human in the loop,” to help guard against unintentional bias. The Hong Kong Monetary Authority (HKMA) advises that model data be tested and evaluated regularly, including with the use of bias-detection software.

In Europe, bank adoption of AI-based systems is described by the EIU as ‘broad but shallow.’ The European Banking Authority (EBA) found that about two-thirds of the 60 largest EU banks had begun deploying AI but in a limited fashion and “with a focus on predictive analytics that rely on simple models”. This is one reason why Andreas Papaetis, a policy expert with the EBA, believes it is too early to consider developing new rules of governance for the EU’s banks that focus on AI.

Explainable AI could be as revolutionary as Blockchain technology – but both are at an early stage and both need to prove their worth to the people who matter – customers.

Read full report

-----

Extrayendo valor de la Inteligencia Artificial (SP)

El último informe de la Economist Intelligence Unit (EIU): "Overseeing AI: Governing artificial intelligence in banking” patrocinado por Temenos, se sumerge en el complejo mundo de la Inteligencia Artificial (IA). Como muchas nuevas tecnologías, la IA está todavía en la etapa en la que tiene que demostrar su utilidad para los clientes de los bancos. Todavía hay un escepticismo comprensible en la mente de los clientes en torno al uso de la IA por parte de los bancos, y tomará un tiempo que esto desaparezca.

El actual COVID-19 ha hecho aumentar el uso de la IA en los bancos. Éstos tuvieron que mejorar su capacidad para proporcionar a los clientes servicios esenciales, adaptándose al mismo tiempo a las dificultades del teletrabajo y con las sucursales cerradas. Simplemente no había suficiente gente para atender las necesidades de atención al cliente. Pero esto no ha hecho más que empezar, y los bancos tendrán que seguir adaptándose rápidamente a nuevas necesidades cambiantes de sus clientes.

Es más que probable que la la adopción de la IA aumente en la era pospandémica por lo que su despliegue seguro y ético se hace más urgente que nunca. Y los bancos tendrán que andar con pies de plomo y estar pendientes de los reguladores. 

La capacidad de extraer valor de la inteligencia artificial (IA) determinará quienes son los ganadores y a los perdedores en la banca, según el 77% de los ejecutivos bancarios encuestados por la EIU en febrero y marzo de 2020. Las plataformas de IA fueron la segunda área prioritaria de inversión en tecnología, según la encuesta, sólo por detrás de la ciberseguridad.

Las principales conclusiones del informe son:

• AI separará a los bancos ganadores de los perdedores, el 77% de los ejecutivos de la industria suscribe esto;
• El Covid-19 puede intensificar el uso de la IA, haciendo más urgente una gobernanza efectiva;
• Un examen de la orientación normativa pone en relieve importantes preocupaciones. El sesgo de los datos, el riesgo de "caja negra" y la falta de supervisión humana;
• La orientación y la reglamentación han sido hasta ahora “más ligeras", pueden requerir normas más firmes a medida que se intensifique el uso de la IA.

Excluir a los humanos de los procesos que implican IA debilita su vigilancia y podría amenazar la integridad de los modelos. En la raíz de estos riesgos está la creciente complejidad de la IA, dice Prag Sharma, vicepresidente senior y líder de tecnología emergente de Citi Innovation Labs: "Algunos modelos de IA pueden analizar millones o a veces miles de millones de parámetros para tomar una decisión", dijo al IEU. "Tales modelos tienen una complejidad que muchas organizaciones, incluyendo los bancos, nunca han visto antes".

Andreas Papaetis, experto en políticas de la Autoridad Bancaria Europea (ABE), cree que esta complejidad -y especialmente los obstáculos que plantea a la explicabilidad- son algunas de las principales limitaciones del uso de la IA por parte de los bancos europeos hasta la fecha.

Para los reguladores, la equidad debe ser la más suprema de las normas éticas, es decir, se debe garantizar que las decisiones en materia de préstamos y de otras áreas, no discriminen injustamente a individuos o grupos específicos de personas. Las preocupaciones al respecto han aumentado desde la enorme debacle del sistema de exámenes del Reino Unido, en el que un algoritmo discriminaba a los estudiantes según el lugar donde vivían y la escuela a la que asistían.

El De Nederlandsche Bank (o DNB, el banco central de los Países Bajos) enfatiza la necesidad de revisiones regulares de las decisiones de los modelos de IA por parte de expertos en la materia. lo que ellos llaman "el humano en el bucle", para ayudar a protegerse contra los prejuicios no intencionales. La Autoridad Monetaria de Hong Kong (HKMA) aconseja que los datos de los modelos se prueben y evalúen regularmente, incluso con el uso de software de detección de sesgos.  

En Europa, la adopción por parte de los bancos de sistemas basados en la inteligencia artificial es descrita por la EIU como "amplia pero superficial". La Autoridad Bancaria Europea (ABE) descubrió que alrededor de dos tercios de los 60 bancos más grandes de la UE habían comenzado a desplegar la IA, pero de manera limitada y "con un enfoque en el análisis predictivo que se basa en modelos simples". Esta es una de las razones por las que Andreas Papaetis, experto en políticas de la ABE, cree que es demasiado pronto para considerar el desarrollo de nuevas reglas de gobierno para los bancos de la UE centradas en la IA.

La IA explicable podría ser tan revolucionaria como la tecnología Blockchain, pero ambas se encuentran en una fase temprana y ambas necesitan demostrar su valor a las personas que importan: los clientes.

Leer el informe completo