El Monitor

¿Podrían los robots lastimar a los humanos?

Los seres humanos deben prosperar; la premisa única que reescribe las leyes de la robótica de Isaac Asimov

Ampliar Foto  
Ciudad de México: Los detalles de los sistemas inteligentes no pueden permanecer secretos por cuestiones comerciales. / Agencias
Google+

Agencias / Ciudad de México
2017-08-08 16:28:49

El escritor de ciencia ficción Issac Asimov propuso tres leyes que se deberían usar para controlar a las máquinas inteligentes:

1. Un robot no debe herir a un ser humano ni tampoco, a través de la inacción, debe permitir que éste salga lastimado.

2. Un robot debe seguir órdenes impartidas por seres humanos, excepto cuando estas órdenes vayan en contra de la primera ley.

3. Un robot debe proteger su propia existencia, siempre y cuando esa protección no entre en conflicto con la primeras dos leyes.

Un informe publicado por la Real Sociedad y la Academia Británica sugiere que no debería haber tres, sino un solo principio fundamental para gobernar a las máquinas inteligentes que pronto vivirán entre nosotros:

“Los seres humanos deben prosperar”.

Según la profesora Dama Ottoline Leyser, quien codirige el grupo de consejeros de políticas científicas de la Real Sociedad, la prosperidad de los seres humanos debería ser la clave detrás de cómo son gobernados los sistemas inteligentes.

“Ese fue el término que realmente resumió lo que quisimos decir”, afirma la profesora. “La prosperidad de la gente y de las comunidades debería venir primero, y creemos que los principios de Asimov pueden incluirse dentro de esto”.

Supervisión democrática

El informe sugiere la creación de un nuevo organismo que garantice que las máquinas sirvan a las personas, en vez de controlarlas. Considera que un sistema de supervisión democrático es esencial para regular el desarrollo de sistemas que se enseñan a sí mismos.

“Sin ello estas máquinas tienen el potencial de causar mucho daño”, asegura Leyser.

No advierte sobre la posibilidad de que las máquinas esclavicen a los seres humanos, al menos no por el momento.

Sin embargo, señala que cuando se usan sistemas que aprenden y toman decisiones de forma independiente en un hogar o para proveer un gran número de servicios comerciales y públicos, se abre la posibilidad de que ocurran muchas cosas malas.

El informe pide que se implementen medidas de protección para priorizar los intereses de los humanos por sobre las máquinas.

También afirma que el desarrollo de estas máquinas no puede ser gobernado únicamente usando estándares técnicos.

Valores éticos

Antony Walker, subdirector del grupo de lobby TechUK y otro de los autores del trabajo, señaló que también deben tomarse en cuenta los valores éticos y democráticos.

“Se obtendrán muchos beneficios gracias a estas tecnologías, pero el público debe tener confianza en que estos sistemas están bien pensados y se regularán de forma correcta”, afirmó.

El informe sugiere que el tema se encare de una forma totalmente novedosa. Plantea que un cuerpo administrativo, formado por expertos y personas involucradas en el tema, cree un marco ético para el desarrollo de tecnologías que usan la inteligencia artificial.

Recomienda cuatro principios supremos para promover la prosperidad humana:

-Proteger los derechos e intereses individuales y colectivos.

-Garantizar la transparencia, responsabilidad e inclusión.

-Buscar las buenas prácticas y aprender del éxito y del fracaso.

-Mejorar el sistema actual de gobierno democrático.

Afirma que es urgente crear este nuevo marco para gobernar a las máquinas porque la era de Asimov ya llegó.




¿De quién es la culpa?

El desarrollo de autos autónomos, por ejemplo, abre interrogantes sobre cómo se debe priorizar la seguridad de los humanos.

¿Qué pasaría en una situación en la que la máquina tiene que elegir entre la seguridad de quienes están dentro del vehículo y la de los peatones?
También hay que determinar las responsabilidades en casos de accidentes.

¿Es culpa del dueño del auto o de la máquina?
Otro ejemplo es el surgimiento de sistemas inteligentes de instrucción personal.

Estos identifican las fortalezas y debilidades de un estudiante y le enseñan con base en eso.

¿Debería permitírsele a un sistema así que enseñe sin normas claras?

¿Cómo podemos estar seguros de que estamos cómodos con la manera en que la máquina guía al niño, de la misma forma que nos preocuparíamos por cómo le enseña un maestro?

Acceso público

Estos no son temas que tengan que resolver las empresas tecnológicas que desarrollan los sistemas, nos conciernen a todos. Es por este motivo que el informe señala que los detalles de los sistemas inteligentes no pueden permanecer secretos por cuestiones comerciales. Deben ser accesibles para el público, para que si algo empieza a andar mal pueda ser detenido y corregido.

Hoy las normas se enfocan en los datos personales. Pero no dicen nada sobre toda la información que regalamos a diario a través de la localización de nuestro celular, nuestras preferencias de compra, los reguladores inteligentes de electricidad y los “me gusta” que damos online.

Hay sistemas que puedan unir toda esta información y construir un perfil de personalidad que potencialmente podría ser usado por compañías de seguros para determinar ciertas primas o por empleadores para determinar la aptitud para ciertos trabajos.

Estos sistemas pueden ofrecer enormes beneficios, pero si no los vigilamos podríamos encontrar que nuestras posibilidades en la vida están determinadas por máquinas.
La clave, según la profesora Leyser, es que los reglamentos se deben hacer caso por caso.

“Un algoritmo que predice qué libros se te debería recomendar en Amazon es algo muy distinto a usar un algoritmo para diagnosticar una enfermedad en un contexto médico”, explica Leyser. “De modo que no tiene sentido regular todos los algoritmos por igual, sin tomar en cuenta para qué se usan”.

En esencia, los sistemas inteligentes solo despegarán si las personas confían en ellos y en cómo están siendo regulados. Sin eso, el enorme potencial que tienen para mejorar la prosperidad humana nunca se alcanzará.

IMAGEN DE VERACRUZ

Dirección: Ruiz Cortines #1917 Fracc.Jardines de Virginia, Boca del Río, Ver.

Teléfonos: (229) 923 2550

Todos los Derechos Reservados - Copyright 2014