Entre Tay de Microsoft debacle, las controversias que rodean Compas de Northpointe software de sentencia y algoritmos propios de Facebook ayudando a difundir el odio en línea, Las fallas públicas más atroces de la IA en los últimos años han demostrado que la tecnología vientre skeevy – y cuánto trabajo tenemos que hacer antes de que puedan interactuar de manera confiable y equitativa con la humanidad. Por supuesto, estos incidentes han hecho poco para sofocar el entusiasmo y el interés en las inteligencias artificiales y los sistemas de aprendizaje automático, y ciertamente no han frenado la marcha de la tecnología hacia la ubicuidad.

Resulta que uno de los principales obstáculos que han surgido contra la continua adopción de la IA han sido los propios usuarios. Ya no somos los mismos rubes de acceso telefónico que éramos en la era de la velocidad en baudios. Una generación entera ya ha crecido hasta la edad adulta sin haber conocido el horror de un mundo fuera de línea. Y como tal, hemos visto un cambio radical en las perspectivas con respecto al valor de los datos personales y las responsabilidades de la comunidad empresarial para cambiarlos. Solo mira el respuesta abrumadoramente positiva a la reciente de Apple Actualización de iOS 14.5, que otorga a los usuarios de iPhone un nivel de control sin precedentes sobre cómo se aprovechan los datos de sus aplicaciones y quién lo hace.

Ahora el Instituto de Inteligencia Artificial Responsable (RAI), una organización sin fines de lucro que desarrolla herramientas de gobernanza para ayudar a marcar el comienzo de una nueva generación de IA confiables, seguras y responsables, espera ofrecer un medio más estandarizado de certificación que nuestro próximo HAL no asesinará a toda la tripulación. En resumen, quieren construir «el primer programa de certificación independiente y acreditado de este tipo. » Piense en el sistema de certificación de edificios ecológicos LEED que se utiliza en la construcción, pero con IA en su lugar.

«Solo hemos visto la punta del iceberg», cuando se trata de posibles malos comportamientos perpetrados por IA, Mark Rolston, fundador y CCO de argodesign, dijo …. «[AI is] ahora realmente se insinúa en aspectos muy comunes de cómo se conducen las empresas y cómo las personas experimentan la vida cotidiana. Cuando comiencen a comprender cada vez más cómo la IA está detrás de eso, querrán saber que pueden confiar en ella. Ese será un tema fundamental, creo, en el futuro previsible «.

El trabajo hacia este programa de certificación comenzó hace casi media década junto con la fundación de la RAI, de la mano del Dr. Manoj Saxena, profesor de diseño ético de IA de la Universidad de Texas, presidente de RAI y un hombre ampliamente considerado como el «padre». de IBM Watson, aunque su inspiración inicial se remonta aún más atrás.

«Cuando la junta de IBM me pidió que comercializara Watson, comencé a darme cuenta de todos estos problemas, estoy hablando hace 10 años, acerca de generar confianza en los sistemas de toma de decisiones automatizados, incluida la inteligencia artificial», dijo a …. «La pregunta más importante que la gente solía hacerme cuando intentábamos comercializar era, ‘¿Cómo puedo confiar en este sistema?'»

Responder a esa pregunta es la esencia del trabajo de RAI. Como lo describe Saxena, la IA actual guía nuestras interacciones con las innumerables facetas del mundo moderno de manera muy similar a cómo Google Maps nos ayuda a ir de un lugar a otro. Excepto que, en lugar de navegar por las calles, la inteligencia artificial nos ayuda a tomar decisiones financieras y de atención médica, con quién usar Netflix y relajarse, y qué ves en Netflix antes del mencionado chillin ‘. «Todo esto está siendo entretejido por la IA y la IA se está utilizando para ayudar a mejorar el compromiso y las decisiones», explicó. «Nos dimos cuenta de que hay dos grandes problemas».

El primero es el mismo problema que ha afectado a la IA desde sus primeras iteraciones: no tenemos ni idea de lo que está sucediendo dentro de ellos. Son cajas negras que ejecutan árboles de decisión opacos para llegar a una conclusión cuya validez no puede ser explicada con precisión ni por los usuarios de la IA ni por sus programadores. Esta falta de transparencia no se ve bien cuando se intenta generar confianza con un público escéptico. “Pensamos que brindar transparencia y confianza a la inteligencia artificial y los modelos de toma de decisiones automatizados sería una capacidad increíblemente importante, al igual que lo era brindar seguridad a la web. [in the form of widespread HTTPS adoption]—Dijo Saxena.

El segundo problema es cómo se resuelve el primer problema de manera justa e independiente. Tenemos ya he visto lo que pasa cuando la sociedad deja monopolios efectivos como Facebook y Google para regularse. Vimos las mismas travesuras cuando Microsoft juró de arriba abajo que se autorregularía y jugaría limpio durante las guerras de escritorio de la década de 1990, diablos, el Ley de telégrafos del Pacífico de 1860 surgió específicamente porque no se podía confiar en que las telecomunicaciones de la época no arruinarían a sus clientes sin la supervisión del gobierno. Este no es un problema nuevo, pero RAI cree que su programa de certificación podría ser su solución moderna.

Las certificaciones se otorgan en cuatro niveles: básico, plata, oro y platino (lo siento, no bronce), según las puntuaciones de la IA a lo largo los cinco principios de la OCDE de IA responsable: interpretabilidad / explicabilidad, sesgo / equidad, responsabilidad, solidez contra piratería o manipulación no deseada y calidad / privacidad de los datos. La certificación se administra a través de un cuestionario y un escaneo del sistema de inteligencia artificial. Los desarrolladores deben obtener 60 puntos para alcanzar la certificación base, 70 puntos para la plata y así sucesivamente, hasta 90 puntos o más para el estado de platino.

Rolston señala que el análisis de diseño desempeñará un papel enorme en el proceso de certificación. «Cualquier empresa que esté tratando de averiguar si su IA será confiable, primero debe comprender cómo está construyendo esa IA dentro de su negocio en general», dijo. «Y eso requiere un nivel de análisis de diseño, tanto en el frente técnico como en términos de cómo interactúan con sus usuarios, que es el dominio del diseño».

RAI espera encontrar (y en algunos casos ya ha encontrado) una serie de entidades interesadas del gobierno, el mundo académico, las corporaciones empresariales o los proveedores de tecnología para sus servicios, aunque los dos se mantienen en silencio sobre los detalles mientras el programa aún se encuentra en fase beta (hasta que 15 de noviembre, al menos). Saxena espera que, al igual que la certificación LEED, RAI eventualmente se convierta en un sistema de certificación universalizado para IA. Él argumenta que ayudará a acelerar el desarrollo de sistemas futuros al eliminar gran parte de la incertidumbre y la exposición a la responsabilidad que enfrentan los desarrolladores de hoy, y sus agobiados oficiales de cumplimiento, al mismo tiempo que construyen la confianza pública en la marca.

«Estamos usando estándares de IEEE, estamos analizando las cosas que está generando ISO, estamos analizando los principales indicadores de la Unión Europea como GDPR, y ahora esta ley algorítmica recientemente anunciada», dijo Saxena. «Nos vemos a nosotros mismos como el ‘tanque de operaciones’ que puede poner en práctica esos conceptos y el trabajo de esos grupos de expertos».