Embed Size (px)
Citation preview
Inteligencia
Artificial Posicionamiento de AMETIC
Contenido Visión y Comprensión de la Inteligencia Artificial ................................................................................... 1
Una descripción más detallada de las disciplinas y tecnologías subyacentes ........................................ 3
Aprendizaje Automático ..................................................................................................................... 3
Deep Learning ..................................................................................................................................... 4
Visión Artificial .................................................................................................................................... 4
Procesamiento de Lenguaje Natural ................................................................................................... 4
Robótica .............................................................................................................................................. 4
Algunos casos de uso de aplicación de IA por sectores .......................................................................... 4
IA Ética, Aceptación social, perjuicios y dilemas ..................................................................................... 6
Aceptación del Cambio Tecnológico ................................................................................................... 6
Impacto Social y Económico ............................................................................................................... 7
Impacto en las Empresas ................................................................................................................ 7
Impacto en el Empleo ..................................................................................................................... 8
Impacto en la Formación ................................................................................................................ 9
El Dilema Existencial ........................................................................................................................... 9
La responsabilidad en la toma de decisión de la IA ...................................................................... 10
Innovación y consciencia en la IA ..................................................................................................... 11
Legislación y responsabilidad ................................................................................................................ 13
Pilares Fundamentales ...................................................................................................................... 13
Justicia ........................................................................................................................................... 13
Privacidad y Seguridad .................................................................................................................. 14
Confianza....................................................................................................................................... 14
Inclusividad ................................................................................................................................... 15
Ejes transversales .............................................................................................................................. 15
Transparencia:............................................................................................................................... 15
Responsabilidad: ........................................................................................................................... 16
Nuestra propuesta como Comisión ...................................................................................................... 17
Ámbito económico-financiero .......................................................................................................... 17
Ámbito ético y normativo ................................................................................................................. 17
Ámbito de colaboración y transferencia ........................................................................................... 17
Ámbito sociopolítico ......................................................................................................................... 17
Empresas de la Comisión ...................................................................................................................... 18
1
Visión y Comprensión de la Inteligencia Artificial
La Inteligencia Artificial aparece a partir de algunos trabajos poco relevantes publicados en los años
40, pero a partir del influyente trabajo en 1950 de Alan Turing (1912-1954), matemático británico, y
uno de los padres de la ciencia de la computación y precursor de la informática moderna.
En el campo de la inteligencia artificial, Turing es conocido por concebir el Test de Turing (ensayo
“Computing Machinery and Intelligence” de 1950): experimento según el cual puede juzgarse la
inteligencia de una máquina si sus respuestas en dicho test no se pueden distinguir de las de un ser
humano.
Alan Turing propuso que un humano evaluara conversaciones en lenguaje natural entre un humano y
una máquina diseñada para generar respuestas similares a las de un humano. La conversación sería
en modo textual mediante un teclado y un monitor de computadora. En el caso de que el evaluador
no pueda distinguir entre el humano y la máquina, la máquina habría pasado la prueba.
Este test no evalúa la capacidad de la máquina para responder preguntas correctamente, solo se toma
en cuenta su capacidad para generar respuestas similares a las que daría un humano.
La capacidad de una máquina de hacerse pasar por un humano se enfrenta a diferentes retos cuya
complejidad va mucho más allá de la capacidad de razonar tal y como se establece en la Paradoja de
Moravec, planteada por Hans Moravec, (1948-), investigador conocido por sus escritos sobre
robótica, inteligencia artificial, y el impacto de la tecnología en la sociedad.
2
Según la paradoja de Moravec el pensamiento razonado humano requiere relativamente poca
computación, mientras que las habilidades sensoriales y motoras, no conscientes y compartidas con
otros muchos animales, requieren de grandes esfuerzos computacionales.
La paradoja dice qué funciones como el procesamiento visual o moverse en una habitación están
“asumidas” en nuestro cerebro por millones de años de evolución y su realización es sumamente
eficiente. Esas capacidades que a los robots les cuesta más reproducir son aquellas que los humanos
compartimos con los animales.
Los ordenadores y robots pueden hacer más fácilmente los trabajos “mentales” que trabajos
“corporales”, en los que se requiere sobre todo el uso de capacidades de percepción y coordinación
motora, más que intelectual.
En la misma línea, Marvin Lee Minsky (1927-2016), considerado uno de los padres de las ciencias de
la computación y que estableció varios de los pilares iniciales de la IA apunta "en general, no somos
conscientes de nuestras mejores habilidades somos más conscientes de los pequeños procesos que
nos cuestan que en los complejos que se realizan de forma fluida". Y comenta también que las
habilidades humanas más difíciles para realizar ingeniería inversa (simular por ordenador) son las
inconscientes. Su trabajo ayudó a entender que, algún día, las máquinas deberán mimetizar el
funcionamiento de nuestro cerebro. En otras palabras, no solo tendrán que ser inteligentes sino
dotarse de sentido común, que no es otra cosa que el conocimiento aprendido con la experiencia.
En base a estas estas reflexiones y referencias, una definición de inteligencia artificial podría ser la
siguiente:
“Inteligencia artificial es conseguir que una máquina realice mejor que un ser humano, algo
que a día de hoy hacen mejor los seres humanos.”
3
Una descripción más detallada de las disciplinas y tecnologías
subyacentes
Como se ha especificado anteriormente, el término Inteligencia Artificial se refiere a sistemas capaces
de cambiar su comportamiento sin haber sido específicamente programados, basados en los datos
recolectados, análisis de uso y otras observaciones. De esta manera, la IA no es una tecnología única
y universal, sino un término que engloba múltiples tecnologías tales como Aprendizaje Automático o
Machine Learning, el uso de redes neuronales o Deep Learning, el análisis y entendimiento de
imágenes o computer visión, y el procesamiento de lenguaje natural o NLP (por sus siglas en inglés,
Natural Language Processing).
Source: Neota Logic
Resulta conveniente entender un poco más de cada una de estas disciplinas por separado para poder
entender cómo, de manera individual o combinada, pueden ayudar a construir aplicaciones
inteligentes como asistentes virtuales, coches auto-conducidos, sistemas de recomendación, etc.
Aprendizaje Automático El aprendizaje automático dota a los ordenadores de la capacidad de aprender sin ser explícitamente
programados. Se trata de un conjunto de técnicas que permiten enseñar a las máquinas a aprender
de la misma manera que lo hacemos las personas, identificando patrones o prediciendo resultados en
base a experiencias previas. Se realiza utilizando algoritmos matemáticos que (típicamente)
construyen un modelo probabilístico sobre el que la máquina hará predicciones o suposiciones
respecto a conjuntos de datos similares.
4
Deep Learning Las redes neuronales artificiales son un tipo de técnica de Aprendizaje Automático que está inspirado
en el funcionamiento de las neuronas. Hay muchos tipos de redes neuronales, pero en general
consisten en sistemas de nodos interconectados y organizados en diferentes capas: Una capa de
entrada en la que los datos se introducen en el sistema, una capa de salida donde se da la respuesta
y una o más capas ocultas donde se realiza el aprendizaje. En el nivel inicial de la jerarquía, la red
aprende algo simple y luego envía esta información al siguiente nivel. El siguiente nivel toma esta
información sencilla, la combina, compone una información algo un poco más compleja, y se lo pasa
al tercer nivel, y así sucesivamente. El término “Deep Learning” se aplica específicamente al uso de
redes neuronales de múltiples capas, de ahí la referencia a la profundidad.
Visión Artificial Se trata de una disciplina científica con entidad propia que estudia la teoría y la tecnología necesarias
para construir sistemas artificiales capaces de obtener información de imágenes. Incluye métodos
para adquirir, procesar, analizar y comprender imágenes utilizando modelos construidos desde una
perspectiva multidisciplinar (geometría, física, estadística, etc.). Es actualmente la forma más
prominente de percepción de la máquina y ha sido la subárea de IA más transformada por el
surgimiento del Deep Learning. Por primera vez, las computadoras son capaces de realizar algunas
tareas de visión mejor que las personas.
Procesamiento de Lenguaje Natural Se trata de un campo dentro de la Inteligencia Artificial que estudia las interacciones entre los
ordenadores y los lenguajes humanos, en particular cómo programar máquinas para procesar grandes
cantidades de información a partir de datos de lenguaje. Los retos de esta área de estudio incluyen
reconocimiento de voz, comprensión del lenguaje y generación de este. Los modelos aplicados se
enfocan no solo a la comprensión del lenguaje de por sí, sino a aspectos generales cognitivos humanos
y a la organización de la memoria.
Robótica La robótica combina diferentes disciplinas como son la mecánica, electrónica, informática etc. que se
ocupan de cómo entrenar a un robot para interactuar con el mundo que lo rodea de maneras
generables y predecibles, cómo facilitar la manipulación de objetos en entornos interactivos y cómo
interactuar con las personas.
Algunos casos de uso de aplicación de IA por sectores A modo de ejemplo indicamos algunos casos de uso de aplicación de los diferentes dominios de IA
(ver tabla adjunta).
5
Como se podrá observar muchos de estos casos combinan varios dominios de inteligencia artificial
para resolver una problemática de negocio que puede ser común a diferentes sectores de actividad:
Dominio principal Caso de Uso Sector de actividad
Machine Learning Mantenimiento predictivo de grandes instalaciones, maquinaria, etc.
Utilities, Infraestructuras, Transporte, Fabricación, etc.
Machine Learning Sistemas de recomendación de productos y contenidos
Tiendas online de Retailers, Ocio, empresas que provean contenidos digitales (películas, música, noticias, etc.)
Procesamiento del Lenguaje Natural
Interfaces conversacionales (Chatbots) en canales de atención al cliente
Operadoras de Telecomunicación, Banca y Seguros, e-commerce, etc.
Procesamiento del Lenguaje Natural
Análisis de sentimientos de mensajes en redes sociales
Gobierno, Media, Ocio, Ecommerce
Reconocimiento de Imágenes Tratamiento de Imágenes para la detección de piezas defectuosas en fabricación o defectos en instalaciones
Producción industrial, Transporte, Logística, etc.
Reconocimiento de Imágenes Tratamiento de imágenes médicas para facilitar diagnóstico médico.
Sanidad pública o privada, Seguros
Robotización Clasificaciones documentales automáticas que permitan automatizar procesos que requieren el tratamiento de documentación sensible y la participación de numerosos intervinientes.
Banca y Seguros, Administraciones Públicas
Robotización Sistemas de conducción autónoma
Automoción, transporte, logística
6
IA Ética, Aceptación social, perjuicios y dilemas
La palabra ética proviene del término “ethos”- Costumbre, modo habitual de obrar, índole, y del
término “ethikos”- carácter. Aristóteles designó también el nombre de "ethos" a la virtud, que es la
cualidad moral de una persona, su carácter moral (su virtud). La llama ethos, pues la supone derivada
de la "costumbre", de la repetición. Para Aristóteles Ético es lo que hace crecer al hombre y conducirlo
hacia la felicidad.
Ética es como se denomina a la ciencia que se refiere al estudio filosófico de la acción y conducta
humana.
Al identificar la necesidad de definir una ética para la Inteligencia Artificial (IA), se está avalando que
los algoritmos que contiene esta tecnología son capaces de comportarse, tomar decisiones o realizar
acciones cómo humanos.
Desde un punto de vista técnico, el desarrollo de la tecnología no está tan avanzada cómo para pensar
que la IA puede comportarse o tomar decisiones, en todos los ámbitos, como un ser humano. Lo que,
si es cierto, es que la capacidad de almacenamiento y de computo está creciendo y abaratándose, los
algoritmos cada vez son más complejos y pueden aprender a tomar decisiones cada vez más
“independientes” y complicadas. Por lo que, todos los expertos están de acuerdo en que el desarrollo
y uso de la IA deberá regularse y legislarse para asegurar que las decisiones tomadas por esta
tecnología sigan la ética que rige a los humanos.
Aceptación del Cambio Tecnológico Nadie duda que, para la mayoría de la población, el desarrollo tecnológico ha mejorado nuestra
calidad de vida, haciéndola más fácil, más larga y más creativa. En cada salto tecnológico hemos
abandonado o transformado tareas duras o peligrosas, en tareas más llevaderas o creativas, liberando
tiempo para el ocio o para realizar otro tipo de actividades.
Es un hecho, que estamos inmersos en un camino hacia otro cambio tecnológico que va a suponer un
gran impacto social; la revolución de las tecnologías “inteligentes”. Por consiguiente, se está
experimentando cambios sociales en muchos ámbitos de nuestra vida diaria.
El ser humano, ha demostrado una gran capacidad para adaptarse a todo tipo de cambios. ¿Cuál es
entonces el problema que se está identificando en la IA diferente frente a los cambios tecnológicos
pasados para que pueda causar rechazo?
Básicamente, que el impacto social y económico del cambio se produce a una velocidad que no se
había visto con anterioridad, que está asociado a otros muchos cambios que lo acompañan
(comunicaciones, redes sociales, energía, cambio climático, etc.), que abarca a casi todas las áreas de
la vida (casa, familia, ocio, trabajo, ciudad, entorno, energía, transporte, etc.) y qué frente a las
pasadas revoluciones, esta va a impactar a un mayor número de territorios y por tanto de personas.
También, entre los diferentes autores y expertos existe una discusión sobre el dilema existencial de
la humanidad con la evolución de la tecnología IA. Dudas sobre a dónde nos dirigirá la evolución de
7
las máquinas inteligentes, a vivir una vida mucho mejor relegando todas las actividades monótonas y
peligrosas a la IA, dejando tiempo para la creatividad y el ocio, o a la esclavitud y la extinción.
Impacto Social y Económico
Impacto en las Empresas Existen multitud de informes realizados por expertos y compañías sobre cuál va a ser el impacto real
de la IA en la economía a nivel mundial y a nivel España. Los valores difieren, pero todos identifican
un amplio incremento en el PIB en los próximos 10/15 años, debido básicamente al aumento de la
productividad y el consumo1.
Todos los expertos y análisis consultados también coinciden en que el desarrollo de la tecnología de
IA trae consigo nuevos modelos comerciales, nuevos servicios, productivos y de relación con los
clientes y empresas. Esto implica que se generan multitud de oportunidades para la creación de
nuevas empresas o nuevas áreas dentro de empresas ya consolidadas. Por el contrario, muchas
empresas que compitan en las áreas afectadas por la tecnología IA, si no son capaces de adaptarse o
retrasan la incorporación de esta tecnología, tendrán que encontrar nuevas formas creativas para
seguir compitiendo o ver un impacto negativo en sus cuentas de resultados.
Hasta la fecha, no hay estudios o no hemos encontrado ningún informe, que indique si ha habido
alguna empresa que haya tenido que dejar su práctica por no utilizar tecnología IA, sin embargo, si se
han hecho varios estudios dónde se ve el número de empresas que se han creado para desarrollar
esta tecnología.
En concreto, según un estudio de Asgard group en Europa se han identificado unas 715 empresas
relacionadas con el desarrollo de tecnología IA2, de las cuáles, eliminando las empresas de consultoría,
aquellas inactivas, que no tienen ningún desarrollo productivo, o que han sido compradas por otras,
en 2017 había más de 400 nuevas empresas dedicadas a desarrollar capacidades en este ámbito.
Según este estudio, España ocupa la cuarta posición en número total de empresas, detrás de UK,
Alemania y Francia. Estando Madrid y Barcelona, dentro de los 10 mayores Hubs de IA a nivel europeo.
1 [1] Superior al 14% del PIB a nivel mundial y al 11% del PIB en España hasta el 2030 (Fuente PWC). Bank of America Merrill Lynch prevé en 2025 un incremento de entre 14 y 33 billones de dólares a nivel mundial. 2 Fuente de datos para el estudio: Crunchbase, Angelist y Asgard Group
8
Impacto en el Empleo Existen muchos estudios e informes de acreditados expertos y empresas, que indican el gran impacto
que va a suponer en el mercado laboral la IA. Todos indican, que hay empleos van a desaparecer
sustituyéndose por IA, pero que otros muchos empleos se crearán nuevos. Existen discrepancias en el
número de empleos destruidos y creados, pero teniendo en cuenta que la IA no podrá asumir el 100%
de todas las actividades de un sector, el trabajo humano seguirá siendo imprescindible en un futuro.
Tampoco existe un sincronismo entre los expertos sobre si se crearán más o menos empleos de los
que se destruyen. Históricamente, todas las revoluciones industriales y tecnológicas pasadas han
creado muchos más trabajos de los que han destruido, por lo que entendemos que esta no se prevé
que vaya a ser diferente.
Los puestos de trabajo que se estima se verán más afectados a corto, serán aquellos trabajos menos
cualificados, puestos de oficina rutinarios, roles administrativos, puestos que intervienen en la
producción y fabricación, archivado o almacén y paquetería. Empezar a reciclar a estos trabajadores,
que se prevé serán desplazados, para que realicen labores más creativas o ponerlos a trabajar junto a
IA, es clave para evitar el desplazamiento de los seres humanos por la tecnología.
Muchos autores opinan que poner a los trabajadores a trabajar junto a IA en vez de a competir con
ella, generará lo que algunos autores denominan la “humanidad Aumentada”, que permitirá obtener
el máximo beneficio social de la incorporación de IA a los modelos productivos y operativos de una
empresa, aunando la fiabilidad de los robots con la capacidad de adaptación y de improvisación
humana.
9
Necesitaremos una planificación cuidadosa si queremos evitar el impacto potencialmente negativo
que la tecnología tiene en el trabajo. Para lograrlo, los expertos opinan que el reciclaje continuo va a
ser una práctica habitual para todos los trabajadores. El impacto de la tecnología acortará la vida útil
de las habilidades de los trabajadores, que tendrán que estar formándose durante toda su vida laboral.
Impacto en la Formación Según un estudio de la “Fundación Española para la Ciencia y la Tecnología”, existe en la actualidad
solamente un 14% de ciudadanos con interés en temas o materias tecnológicas, frente al 25% que no
tienen ningún interés en estas materias. Una incongruencia, si tenemos en cuenta que España se
encuentra en los primeros puestos de países que adoptan y utilizan lo último en tecnología e
innovación para su uso diario.
Una de las causas que alegan las empresas para no seguir el ritmo de otras en otros países, es la falta
de perfiles especializados. Todas las empresas del IBEX 35 buscan perfiles de Big Data, Data Science,
Ciberseguridad, Robótica, Automatización y Machine Learning para afrontar con éxito sus procesos
digitales o de innovación.
Curiosamente, aunque todas las tendencias e informes que están saliendo de organismos oficiales
incluyendo los de empleo y educación, muestran que el mercado laboral en este ámbito está en alza
y que lo estará durante varias décadas, el número de profesionales superiores formados en áreas
técnicas está decreciendo en más de 57.000 estudiantes (un 17,2%), desde el 2011 hasta 20163.
Aunque se están revisando las causas y buscando alternativas para solucionarlo, los indicadores
iniciales apuntan a que se debe revisar el modelo educativo y CV de estas universidades y centros,
para adecuarlos a los nuevos cambios tecnológicos que están surgiendo y estar a la vanguardia del
cambio.
Según han señalado multitud de autores en esta área: la mayoría de las profesiones del futuro aún
no existen o se están creando, y la mayoría de ellas estarán dentro del ámbito de las tecnologías de
la información.
El Dilema Existencial
El desarrollo de la tecnología IA, hace que compitamos con otro dónde nunca antes lo habíamos
hecho, en la inteligencia.
Mucha gente siente que, si empezamos a delegar la toma de decisiones en la IA, esta puede llegar a
impactar en la vida de los seres humanos. Si estas decisiones producen algún tipo de daño, no habrá
manera de encontrar responsables. Es más, llegado el extremo, la IA puede llegar a tener que decidir
sobre diferentes acciones que produzcan daños a diferentes personas y tendrá que decidir a quién
3 Datos y cifras del sistema universitario español 2011/12; 2014/2015, publicados por el Ministerio de Educación , Cultura y Deporte
10
hace daño frente al resto. ¿No estaríamos dando a un algoritmo responsabilidades que antes
atribuíamos a dioses o al destino?
Más preocupante es la cuestión de la extinción humana. EL razonamiento es el siguiente: si hay algo
que puede llegar a ser más inteligente que nosotros, tomar decisiones más rápidas y evolucionar de
una manera más dinámica, si esto fuera así, siguiendo las leyes de la evolución natural, ¿No
tendríamos nosotros que extinguirnos o ponernos al servicio de estas criaturas al ser los más débiles
y competir por los mismos recursos?
La responsabilidad en la toma de decisión de la IA La inteligencia Artificial ha sido creada y desarrollada para mimetizar o mejorar la toma de decisión
de los humanos. Con este fin, se han desarrollado algoritmos matemáticos que, en base a los datos
recogidos en la actualidad y en los datos recogidos en situaciones similares pasadas, son capaces de
decidirse por una opción o alternativa. Estos modelos también son capaces de “aprender”. En base a
las respuestas registradas en el pasado, los modelos de IA predictivos son capaces de proponer otras
respuestas para validar si mejoran o no el acierto.
Teniendo esto en cuenta, si la tecnología propone una respuesta o provoca una acción, que tiene un
impacto en una propiedad, un ser vivo o un ser humano, ¿Quién sería la entidad o persona responsable
por los actos de la IA? ¿O sería responsable la IA?
La respuesta a esta pregunta parece fácil, pero si se analiza en detalle existen muchas aristas que
deben de ser limadas para poder llegar a una decisión.
Por ejemplo, si un coche autónomo atropella a una persona, parece claro que el responsable sería la
empresa que lo ha desarrollado, pero si el software de IA es de otra empresa parece que la
responsabilidad se diluye, y si el problema pudiera haberse ocasionado como consecuencia de un fallo
de un desarrollador identificable, o que durante las pruebas el equipo responsable ha propuesto un
cambio en la configuración. ¿Quién sería en este caso el responsable?
Todavía se complica más si el atropello viene como consecuencia de una decisión que ha tomado el
coche en base a su experiencia o autoaprendizaje. ¿Quién tendría la responsabilidad en este caso?
O qué pasaría si el coche autónomo tiene que tomar una decisión entre atropellar a una persona u
otra, o a muchas. ¿Sería la IA la que decidiese qué hacer en ese caso? ¿En base a qué? ¿A la edad? ¿al
valor de cada individuo? ¿Quién tendría la responsabilidad de configurar el modelo para tomar este
tipo de decisiones?
11
Recientemente, eminentes científicos de la talla de Stephen Hawking4, y Max Tegmark5, junto a
emprendedores y visionarios de la talla de Elon Musk6, alertaron a través de una carta en 2015 de que
la IA puede constituir una amenaza seria para la humanidad, si no se toman en consideración ciertos
aspectos de la misma. Para ello, M. Tegmark, propone focalizar las investigaciones en IA para
maximizar el beneficio a la Sociedad, a través de la implementación de los procesos técnicos que
permitan acotar estos riesgos, sin olvidar los aspectos legales, regulatorios y éticos. La imputabilidad
de quién es el responsable de la acción de un robot, estará entre las preguntas a las que tendrán que
ser respondidas.
A día de hoy y desde un punto de vista técnico, la IA no tiene capacidad de Innovar ni de ser consciente
de su existencia, solo de seleccionar la mejor opción de entre todas las que le han sido incorporadas
en base a su algoritmo de decisión y datos suministrados. Por lo que, se entiende que la tecnología
tiene un “propósito” un “objetivo” grabado en su algoritmo y en las alternativas a las que pueda llegar.
Este “propósito”, ha sido desarrollado por un equipo perteneciente a una empresa que seguramente
tiene una ética y un objetivo: económico, social o cultural, y que se rige por regulaciones y leyes.
Innovación y consciencia en la IA Otra de las grandes preocupaciones sobre la IA, es si podrá algún día tomar el control de nuestras
vidas, “esclavizarnos” o incluso “matarnos”. Para poder hacer este tipo de cosas, la tecnología tendría
que ser “consciente” de sí misma y de crear una forma para tomar el control, es decir de “Soñar”,
“Innovar” o “imaginar” cómo hacerlo.
El proceso de creación de ideas o de innovar, es algo muy complejo que ocurre en el cerebro y que se
ha observado que solo se da en ocasiones puntuales o ante determinados estímulos. Actualmente, no
hay un entendimiento claro de qué es lo que lleva a ciertos individuos a ser más creativos que otros,
o a la creación de ideas que pueden ser más innovadoras que otras. Intentar desarrollar algoritmos
capaces de modelizar el proceso humano de inventar alternativas u opciones es algo que por ahora
no parece realizable.
4 Stephen William Hawking (Oxford, 8 de enero de 1942-Cambridge, 14 de marzo de 2018) fue un físico teórico, astrofísico, cosmólogo y divulgador científico británico. 5 Max Tegmark (nacido el 5 de mayo de 1967) es un cosmólogo sueco-estadounidense. Tegmark es profesor en el Instituto Tecnológico de Massachusetts y pertenece a la dirección científica del Instituto de Cuestiones Fundamentales. 6 Elon Reeve Musk (Pretoria, Sudáfrica, 28 de junio de 1971) es un inversor y empresario nacido en
Sudáfrica con nacionalidad canadiense y estadounidense. Fundador de empresas como PayPal,
SpaceX y del coche eléctrico Tesla.
12
Por otro lado, se sabe que hay muchos científicos como Edward Witten7 que están tratando de
modelizar matemáticamente la consciencia humana, aunque parece que tardaremos un tiempo en
ver resultados prácticos, si es que llegamos a alguna conclusión práctica.
Hay grandes discusiones sobre qué pasaría si el humano lograra automatizarlo todo y la IA lograra no
solo tomar decisiones sino crearlas y ser consciente de que lo está haciendo, ¿Se crearía un problema
existencial para la humanidad?
Según declaró Stephen Hawkins a la BBC: “El día que la inteligencia artificial se desarrolle por
completo podría significar el fin de la raza humana. Funcionará por si sola y se rediseñará cada vez
más rápido. Los seres humanos, limitados por la lenta evolución biológica, no podrán competir con ella
y serán superados. “.
Sin embargo, autores y profesionales como Bill McDermott8, Jerry Kaplan9 or James Gautrey 10 piensan
lo contrario: “El impacto no será trivial. En muchas ocasiones, su implementación mejorará los
beneficios corporativos, y en otras, la aplicación será dolorosa para los modelos de negocio actuales.
La inteligencia artificial no va a acabar con el trabajo humano, al menos por ahora. En cambio, puede
ayudar a liberar a las personas para que sean más productivas. IBM, por ejemplo, no pretende que
Watson sustituya a los oncólogos, sino darles a estos la posibilidad de pasar más tiempo investigando”,
No hay una respuesta clara ante esta pregunta y seguramente, no lleguemos nunca a poder realizar
modelos matemáticos prácticos capaces de que una máquina imagine, sueñe y sea consciente de sí
misma. Lo que sí está claro, es que son los seres humanos los que podrán hacerlo, por eso, el foco no
tiene que ser en si existe un problema existencial para la humanidad en la IA, sino en cómo formamos
a las generaciones venideras, para que puedan tener claro las consecuencias en el uso de cualquier
tipo de tecnología.
7 Edward Witten (Baltimore, 26 de agosto de 1951) es un físico y matemático estadounidense. Ha desarrollado la mayor parte de su labor científica en el Instituto de Estudios Avanzados de Princeton. Se le deben grandes contribuciones a la física teórica de las partículas elementales y a la teoría cuántica de campos (en especial, en la cromodinámica cuántica). 8 Bill MCDermott SAP SE Chief Executive Officer and board of SAP directors.
9 Samuel Jerrold "Jerry" Kaplan (born March 25, 1952) is an American computer scientist, author, futurist, and serial entrepreneur. He is the founder of numerous companies, including GO Corporation, co-founder of OnSale, co-founded include artificial intelligence company Teknowledge, Inc., and author of books like: Humans Need Not Apply: A Guide to Wealth and Work in the Age of Artificial Intelligence or Artificial Intelligence: what everyone need to know. Kaplan is currently a Fellow at the Stanford Center for Legal Informatics. 10 James Gautrey, CFA, is a Portfolio Manager for the Hartford Schroders International Stock Fund based in London. BSc in Economics from University College London. He holds the Chartered Financial Analyst designation.
13
Legislación y responsabilidad Diseñar la IA para que sea confiable requiere la creación de soluciones que reflejen principios éticos
profundamente enraizados en valores importantes y atemporales. A medida que lo pensamos, nos
hemos centrado en seis principios que creemos que deberían guiar el desarrollo de la IA.
Específicamente, los sistemas de inteligencia artificial deben ser justos, confiables y seguros, privados
y seguros, inclusivos, transparentes y responsables. Estos principios son fundamentales para abordar
los impactos sociales de la IA y generar confianza a medida que la tecnología se vuelve cada vez más
parte de los productos y servicios que la gente usa en el trabajo y en el hogar todos los días.
El diseño de Inteligencia Artificial debe ser acorde a 4 pilares fundamentales (Justicia, Confianza y
Seguridad, Privacidad, e Inclusividad y dos ejes transversales (transparencia y responsabilidad).
Pilares Fundamentales
Justicia Los sistemas de inteligencia artificial deben tratar a todos de manera justa y equilibrada, y no afectar
de manera diferente a grupos de personas en situaciones similares. Es importante entender que la
Inteligencia Artificial puede ser víctima de los sesgos humanos, y por lo tanto afectar las
recomendaciones que realice. Por lo que es necesario el desarrollo de técnicas analíticas para detectar
y eliminar los posibles sesgos que pudiesen surgir.
La diversidad en el talento es un factor clave en el futuro éxito de la inteligencia artificial, ya que detrás
de esta tecnología revolucionaria estará la revisión y experiencia humana. Creemos que las personas
que diseñan sistemas de IA deben reflejar la diversidad del mundo en el que vivimos. También
14
creemos que las personas con experiencia relevante en la materia (como aquellos con experiencia en
crédito al consumidor para un sistema de IA de calificación crediticia) deberían incluirse en el proceso
de diseño y en las decisiones de implementación.
La industria y la academia deben continuar el prometedor trabajo en curso para desarrollar técnicas
analíticas para detectar y abordar posibles injusticias, como métodos que evalúan sistemáticamente
los datos utilizados para capacitar a los sistemas de inteligencia artificial para alcanzar una
representatividad adecuada, así como documentar información sobre sus orígenes y características.
Privacidad y Seguridad La complejidad de las tecnologías de inteligencia artificial ha alimentado los temores de que los
sistemas de inteligencia artificial puedan causar daños ante circunstancias imprevistas, o que puedan
ser manipulados para actuar de manera perjudicial. Para ello, se aplican las leyes de privacidad
existentes, por ejemplo, el Reglamento General de Protección de Datos. En este esquema es esencial
el diseño de sistemas para proteger al usuario de todos los imponderables que pudiesen surgir. La
privacidad debe ser un imperativo comercial y un pilar fundamental de confianza en todas las
iniciativas de computación en la nube. Esta es la razón por la cual Microsoft asumió compromisos
firmes para proteger la seguridad y privacidad de los datos de nuestros clientes y por qué estamos
actualizando nuestros sistemas de ingeniería para garantizar que cubramos las leyes de protección de
datos en todo el mundo, incluido el GDPR. Microsoft está invirtiendo en la infraestructura y los
sistemas para permitir el cumplimiento de GDPR en nuestro mayor esfuerzo de ingeniería dedicado a
cumplir con un entorno regulatorio.
Confianza La realización de evaluaciones de datos en situaciones de control, así como la realización de pruebas
de estrés son necesarias para que el diseño de nuestros productos esté preparado para las
circunstancias más inesperadas, incluidos los ataques más perjudiciales. Todas estas pruebas serán
monitorizadas a detalle por humanos integrados en el circuito de preparación. Debido a que los
sistemas de inteligencia artificial se basan en datos, su comportamiento y la variedad de condiciones
que pueden manejar de manera confiable y segura refleja ampliamente el rango de situaciones y
circunstancias que los desarrolladores anticipan durante el diseño y las pruebas.
Además, debido a que la inteligencia artificial debe aumentar y ampliar las capacidades humanas, las
personas deben desempeñar un papel fundamental en la toma de decisiones sobre cómo y cuándo se
implementa un sistema de IA, y si es apropiado seguir usándolo a lo largo del tiempo. Dado que los
sistemas de IA a menudo no ven ni entienden la imagen más amplia de la sociedad, el juicio humano
será clave para identificar posibles puntos ciegos y sesgos en los sistemas de inteligencia artificial. Los
desarrolladores deben ser conscientes de estos desafíos a medida que construyen y despliegan
sistemas, y comparten información con sus clientes para ayudarlos a monitorear y comprender el
comportamiento del sistema para que puedan identificar y corregir rápidamente cualquier
comportamiento involuntario que pueda surgir.
15
Inclusividad Si queremos garantizar que las tecnologías de inteligencia artificial beneficien y empoderen a todos,
deben incorporar y abordar una amplia gama de necesidades y experiencias humanas. Las prácticas
de diseño inclusivo ayudarán a los desarrolladores de sistemas a comprender y abordar las barreras
potenciales en un producto o entorno que podrían excluir involuntariamente a las personas. Esto
significa que los sistemas de inteligencia artificial deben diseñarse para comprender el contexto, las
necesidades y las expectativas de las personas que los utilizan.
El desarrollo de programas de inteligencia artificial tiene que contar con todos, ser una tecnología
democratizadora, que llegué a todas las capas de la sociedad. Es por ello necesario el estudio y
aplicación de prácticas de diseño inclusivas para abordar las posibles barreras que podrían excluir
involuntariamente a las personas. El incremento de la confianza a través de la interacción con el
contexto y la mejora continua de las oportunidades para aquellos que más lo necesiten son conceptos
fundamentales para entender como pretende Microsoft que sea esta nueva tecnología. Debido a que
los sistemas de inteligencia artificial se basan en datos, su comportamiento y la variedad de
condiciones que pueden manejar de manera fiable y segura refleja el rango de situaciones y
circunstancias que los desarrolladores anticipan durante el diseño y las pruebas. Es por ello por lo que
para la compañía es fundamental proporcionar transparencia sobre la recopilación y el uso de datos,
así como los correctos mecanismos de control para que las personas puedan conocer acerca del
tratamiento de sus datos.
Ejes transversales Detrás de estos cuatro valores precedentes se encuentran dos principios fundacionales que son
esenciales para garantizar la eficacia del resto: transparencia y responsabilidad.
Transparencia: Cuando los sistemas de inteligencia artificial se utilizan para ayudar a tomar decisiones que afectan
las vidas de las personas, es particularmente importante que las personas comprendan cómo se
tomaron esas decisiones. Un enfoque que probablemente genere confianza entre los usuarios y los
afectados por estos sistemas es proporcionar explicaciones que incluyan información contextual sobre
cómo funciona un sistema de inteligencia artificial e interactúa con los datos. Dicha información
facilitará la identificación y la toma de conciencia sobre posibles sesgos, errores y resultados no
deseados.
Simplemente publicar los algoritmos que subyacen a los sistemas de inteligencia artificial rara vez
proporcionará una transparencia significativa. Con las últimas y, a menudo más prometedoras,
técnicas de IA, como las redes neuronales profundas, normalmente no existe ningún resultado
algorítmico que ayude a las personas a comprender los patrones sutiles que encuentran los sistemas.
Es por eso por lo que necesitamos un enfoque más holístico en el que los diseñadores de sistemas de
IA describan los elementos clave del sistema de la manera más clara y completa posible.
Conscientes de estas necesidades, compañías líderes en IA como Microsoft, Google, Facebook, IBM y
Amazon están trabajando en una iniciativa llamada “Partnership on Artificial Intelligence to Benefit
16
People and Society” para desarrollar las mejores prácticas para permitir la transparencia significativa
de los sistemas de Inteligencia Artificial. Esto incluye las prácticas descritas anteriormente y una
variedad de otros métodos, principios, políticas y leyes para el uso responsable de la IA.
Responsabilidad: Finalmente, al igual que con otras tecnologías y productos, las personas que diseñan y despliegan
sistemas de IA deben ser responsables de cómo funcionan sus sistemas. Para establecer normas de
responsabilidad para AI, debemos recurrir a la experiencia y las prácticas en otras áreas, incluida la
atención médica y la privacidad. Aquellos que desarrollan y usan sistemas de inteligencia artificial
deben considerar tales prácticas y verificar periódicamente si se cumplen y si funcionan de manera
efectiva. Las juntas de revisión interna pueden proporcionar supervisión y orientación sobre qué
prácticas deben adoptarse para ayudar a abordar las inquietudes mencionadas anteriormente, y sobre
cuestiones particularmente importantes con respecto al desarrollo y despliegue de sistemas de
inteligencia artificial.
17
Nuestra propuesta como Comisión
Ámbito económico-financiero Reforzar la ayuda financiera y fomentar la adopción de la IA por los sectores público y privado.
En línea con el esfuerzo que realizará la Comisión Europea para el periodo 2018-2020 creación de un
Plan coordinado sobre Inteligencia Artificial para finales de 2018, aumento de la inversión en 1.500
M€ en el marco de H2020 y movilización de más de 500 M€ del Fondo Europeo para Inversiones
Estratégicas 11 para invertir en IA.
Ámbito ético y normativo Garantizar un marco ético y jurídico adecuado, que no sea obstáculo para el desarrollo de la IA, y
donde se tengan en cuenta aspectos como:
• La protección de datos
• La transparencia.
• Rapidez en su actualización para dar cabida a los nuevos usos y aplicaciones.
Ámbito de colaboración y transferencia Apoyar la creación de entornos de cooperación, experimentación, demostración y prueba donde
puedan acceder empresas, startups, universidades o incluso empleados.
Facilitar espacios para el intercambiar y compartir información y experiencias más allá del campo
propio de especialización.
Ámbito sociopolítico Crear un Plan de Inteligencia Artificial en el marco de la nueva Agenda Digital para España. Nichos de
aplicación de la IA en los Servicios Públicos.
Utilizar los esquemas de Compra Pública de Innovación (CPI). favorecer este tipo de innovaciones en
los Servicios Públicos
Crear grupos permanentes de innovación en las Administraciones orientados a identificar áreas de
aplicación.
Modernizar el sistema educativo y de formación. Mayor apoyo a la formación en competencias
digitales avanzadas, entre las que se incluirán los conocimientos específicos de la IA. Facilitar la
transición al mercado laboral.
11 Fondo Europeo para Inversiones Estratégicas http://www.eib.org/efsi/
18
Empresas de la Comisión
