The First  International  Symposium On Roboethics

 

ROBOética,
ENTRE LA CIENCIA
Y LA FICCION

 

                                                                                                                                                 por Paula Siverino Bavio*

 

 

 

    En el marco privilegiado de la bellísima Villa Nobel (San Remo, Italia)   donde Albert Nobel pasó sus últimos años, se llevó a cabo el pasado 30 y 31 de Enero el Primer Simposio Internacional sobre Roboética  (FIRST INTERNATIONAL SYMPOSIUM ON ROBOETHICS: The ethics , social, humanitarian and ecological aspects of Robotics). El  evento, que contó entre otros con el patrocinio del Parlamento, los  Ministerios de Educación, Universidad e Investigación y de Tecnología e Innovación de la República, y la Comisión Nacional Italiana en la  UNESCO, fue organizado por la Scuola di Robotica (Génova), el  ARTS-Lab, Scuola Superiore Sant'Anna, (Pisa, Italia); el International Institute of Humanitarian Law (Ginebra, Suiza) y la Scuola di Teologia della Pontificia Universitá della Santa Croce de Roma.

    El Symposium - al que era posible acceder sólo invitación mediante - se desarrolló en inglés, debido a la heterogénea conformación de los paneles, integrados por científicos de Suecia, Inglaterra, Irlanda, Francia, Alemania, Norte América, Suiza, Japón, España  e Italia. La limitada concurrencia - sólo una veintena de personas aparte de los expositores, en su mayoría periodistas científicos, promovió un clima de continuo e intenso debate conforme se presentaban las áreas más conflictivas, y podría agregarse, más apasionantes, de las actuales líneas en investigación en robótica e inteligencia artificial.

 

 

Los objetivos

 

  Fundamentalmente, el Symposium proponía:

·        la puesta en común de las principales líneas de investigación en Robótica

·        generar un intercambio y debate entre los impulsores de estas investigaciones

·        identificar áreas de necesidad y desarrollo y los consiguientes problemas éticos que éstos podían suscitar

·        platear las bases de un Manifiesto , pensar una base ética para la robótica.

 

 

   Las exposiciones

 

   Las exposiciones se estructuraron en siete módulos, cada uno de los cuales presentaba un pantallazo del estado actual de  la técnica y los proyectos en los que se estaba trabajando, el campo de aplicación y las derivaciones éticas que podían ser individualizadas a priori.

    Así, el Modulo I  trabajó sobre “La necesidad de la Roboética”, el Prof. Jean-Pierre Stroot, presidente del Board of the Geneva International Peace Reaserch, Ginebra, disertó sobre “El Manifesto Russel- Einstein y la participación de  la ciencia y los científicos en la sociedad” luego el Prof.Michel Veuthey, del International Institute of Humanitarian Law, habló sobre la  posibilidad de aplicar a la robótica, particularmente  en lo referente al diseño  y utilización de armas de guerra, los principios del Derecho Humanitario a fin de limitar la bajas civiles y el sufrimiento innecesario en los conflictos bélicos en su ponencia “Aspectos del Derecho Humanitario”; por último, el Prof. José María Galván, de la Scuola di Teologia della Pontificia Universitá della Santa Croce (Roma), se explayó sobre “El nacimiento de la Tecnoética”.  

   El Modulo II giró en torno a  la “Inteligencia Artificial y la Etica”, los temas tratados fueron: “Maquinas y robots: una cuestionable invasión en pos  del desarrollo de la humanidad” (Prof. Philippe Coiffet, Director de Investigación al CNRS, Laboratoire de Robotique de Versailles, France) ; “¿Sistemas autónomos?” , presentado por el Prof. Henrik Christensen coordinador de EURON,- European Robotics Reaserch Network, Suecia; y “ “Simbiosis entre robots y humanos, una interface perfecta?” a cargo de la Prof. Daniela Cerqui, antropóloga de la Universidad de Lausanne, Suiza.

    La exposición del Prof. Christensen, puso en relieve  el grave problema que debe afrontar al corto plazo la sociedad sueca relativa al envejecimiento de la población y la merma de ciudadanos económicamente activos, lo cual obligaría a aumentar en al menos un un treinta por ciento la eficacia de la prestación de servicios pero logrando un abaratamiento de los costos en igual proporción; tomado en cuenta la gran cantidad de ancianos solos que requieren y requerirán asistencia, propuso la implementación de robots-asistentes o robots-compañeros, que permitieran a personas mayores, así como a personas con diversos grados de discapacidad física, valerse por si mismos.

   En el tercer Módulo se habló sobre “Humanos y Humanoides”. Así, el Prof. Atsuo Takanishi del Departamento de Ingeniería Mecánica y  el Instituto de Robotica Humaoide de la Universidad de Waseda, Tokio, introdujo el tema de “La robótica humanoide y la historia japonesa, religión y sociedad”. Luego fue el turno del Prof. Raja Chatila, de la LAAS-CNRS, Groupe Robotique et Intelligence Artificielle, Francia, quien  hizo su exposición relativa  al tema “Hacia robots conscientes y compañeros”; y por último el Prof. Brian Duffy, del MIT- Media Lab Europe, Dublin, Irlanda, el cual se explayó sobre “Los robots sociales : un balance de su función y forma”.

     El Módulo IV titulado “ Los Robots tras los humanos” contó con la participación del Prof. Dario Floreano, integrante de Autonomus System Lab, Ecole Polytecnique Federale di Laussane, Suiza, que tocó el tema “Robótica evolutiva”; luego el escritor de Ciencia Ficción, Bruce Sterling, de Austin Texas, refirió a “Los mitos y verdades de los Robots”, en una arenga bastante particular, difícil de comprender aun para los entendidos en robótica, ni qué decir si se escuchaba en  una lengua extranjera.

    La última exposición del día estuvo a cargo del Prof. Gianmarco Veruggio, uno de los organizadores, Director de CNR- Robotlab de Genova, con una ambiciosa “Propuesta para una Roboética”.

     El Módulo V giró en torno a “Robots que ayudan humanos” , iniciando con la interesantísima exposición del Prof. Paolo Dario, Director del ARTS-Labs, Escuela Superior de Santa Ana, Pisa, sobre “Biorobótica” , seguida de la disertación sobre “Edutainment (algo asi como educación y entretenimiento): robótica para la próxima generación” por el   Prof. Thomas Christaller, del Fraunhofer Institute for Autonomous Intelligent Systems (AIS), Sant Augustin, Alemania; y luego el Prof. Hirochika Inoue, director del proyecto de humanoides en la Universidad de Tokio, habló sobre “Humanoides para asistencia de gente mayor.”

  El Módulo VI explicitó el debate sobre “Problemas en la coexistencia humanos- robots” , las exposiciones estuvieron a cargo del Porf. Katzuo Tanie, jefe del IEE Robotics and Automation Society, director del Intelligent Sysyten Institute /AIST, Tsukuba, Japon (¿Cuál es el específico problema ético en la robótica?); Prof. Ronald Arkin, director of the Mobile Robot Laboratory, College of Computing, Georgia, EEUU. ( Bombs , Bonding and Bondage: aspectos éticos relativos a la interacción robots-humanos.) y de los profesores Roberto Cordeschi y Guglielmo Tamburrini, del Dto. de Ciencias de la Comunicación de la Universidad de Salerno ( Italia) y del Dto. de Filosofía de la Universidad de Pisa, respectivamente. (Aplicaciones de la robótica y la inteligencia artificial: debates históricos y preocupaciones epistemológicamente motivadas).

   El Módulo VII se tituló “Robots por el planeta”, y reunió las exposiciones sobre “Robots marinos, explotación y demanda social por la supervivencia ambiental” (Prof Vincent Regaud, Director del Underwater System Dept. IFREMER, Touloun, Francia) y “Robots submarinos, adoran bucear en mares  hostiles” ( Prf. Tamki Ura, director del Underwater Technology Research, institute of Industrial Science, University of Tokio).

   El Symposim fue cerrado con dos mesas redondas, integradas por los Profesores Christensen, Arkin, Dario, Galvan, Inoue, Operto, Tanie.

 

    A lo largo de las exposiciones, se hicieron evidentes las profundas diferencias de enfoque en las visiones norteamericana, europea y asiática. Asimismo casi desde el inicio, se instaló un clima de tensión frente a la presencia norteamericana y el desarrollo bélico, y no tardó en explicitarse la pregunta obligada: ¿se deben seguir líneas de investigación para desarrollar material bélico “inteligente” y reducir así los llamados daños colaterales? Las respuestas fueron desde el “no” rotundo, al “sí” justificado en la posibilidad de dañar menos, a la cara de perplejidad de un interpelado que no podía creer lo que se le estaba preguntando.

      Los científicos japoneses exhibieron una larga e impresionante galería de adelantos tecnológicos, particularmente en lo referente al proyecto humanoide. Relataron la experiencia llevada a cabo en un Hospital japonés con la utilización de mascotas robóticas (robo-pets) en el tratamiento de niños enfermos y hospitalizados por períodos largos, así como aquellos que padecen enfermedades mentales, trastornos de comunicación, asilamiento, etc.; registrándose una notable disminución de los tiempos de cura y una apertura progresiva y veloz al mundo externo en esta terapia (en ambientes donde no es posible introducir una mascota “de verdad” por el peligro de las infecciones, etc.). Pero curiosamente, el experimento no contó con el seguimiento psicológico de estos pacientes, y no se hizo referencia alguna a que estuvieran incluidos en protocolos de investigación. La pregunta en este punto fue cómo lidiar con el hecho de que las mascotas no fueran “reales” y cómo impacta la desilusión y la “artificialidad” en los niños. Vale  la pena reseñar el razonamiento de uno de los profesores nipones ; al hablar de robots en profundidades marinas hizo la siguiente ecuación: ciudad-mucha gente-mucha ética; profundidad marina- poca gente- poca  (necesidad de) ética.  

 

    

    Los  focos de discusión

 

·        El desarrollo bélico, armas inteligentes, ¿debe la robótica alimentar el desarrollo armamentístico?

·        Inteligencia artificial:  recolección de datos y privacidad

·       Sistemas autónomos: ¿deben desarrollarse? ¿Hasta que punto? ¿Cuál es el grado de autonomía deseable en un robot? ¿Debe ser capaz de tomar decisiones en lugar de un humano? ¿En contra del deseo de un humano? ¿En que situaciones puede reemplazar su voluntad?

·        ¿Qué significa “autonomia” en un sistema?

·        Sistemas autónomos, ¿tienen “derechos”?

·        La Robótica social: al servicio de la Tercera Edad y de personas con necesidades especiales

·        Las necesidades de la gente mayor: Robot asistente; robot compañero, ¿cómo se ven afectadas las relaciones interpersonales?

·        Desempleo y crisis económica: ¿deben emplearse robots o mano de obra “extracomunitaria”?

·        El robot compañero: ¿autonomía para las personas con capacidades disminuidas o aislamiento?

·        Los robo-pets y los niños, ¿cómo manejar la desilusión de lo artificial?

·        Los robo-pets, ¿deben desarrollarse con forma animal o con formas de fantasía, para evitar las confusiones?

·       ¿Que límites imponer a la industria del entretenimiento en el desarrollo de robots mascotas y de humanoides?

·         Los robots como reemplazo para las tareas riesgosas, indeseables, muy peligrosas: ¿Robots-esclavos?

·        Robots marinos: ¿cómo afectan el  medio ambiente?

·        Proyecto humanoide: ¿deben fabricarse robots con aspecto humano? ¿Que tan humano?

·        El robot como medio educativo en ciencias exactas

·        La inversión en capacitación de la mujer, cómo desterrar el mito de que la mujer no es igualmente apta para tareas de ingeniería y robótica.

·        Bioingeniería, aplicaciones médicas , prótesis biónicas.

·        Las leyes de Asimov: ¿necesidad, futilidad o ficción?

 

   Los precedentes fueron algunos de principales asuntos discutidos en el Symposium. Este dejó en claro la multiplicidad de áreas afectadas por la robótica, las profundas diferencias culturales y si se quiere “profesionales”, al encararlas, y la total imposibilidad de llegar a algún tipo de acuerdo referido al aspecto ético, cristalizado,  por un lado en  el esfuerzo del Prof. Veruggio de lograr un Manifiesto, o al menos de no dejar caer la iniciativa en el olvido, y por otro del Prof. Arkin, quien según sus dichos, “permaneció hasta el final para estar seguro que nada fuera firmado”.

 

    

    Colofón

 

     Es evidente que la Robótica dejó de ser un campo de ficción para transformarse en una realidad en expansión, que propone no sólo increíbles adelantos y desafíos sino una nueva manera de mirar al mundo y de repensar al hombre. Un hombre como nunca necesitado de respeto, amor y solidaridad. En contraste, la  Roboética  (amor/ odio por los neologismos “académicos” al margen) parece en  cambio, aún lejana y confusa.

    ¿Lo que más me impresionó de mi fugaz pero intensa incursión en la Robótica? La omnipresente, implícita o no tanto, pregunta, acerca de qué (y/o quién) define al ser humano.  Basta una hojeada al periódico para saber que todavía, como sociedad, no sabemos muy bien de qué estamos hablando.

  

*Abogada,  investigadora de apoyo UBA, docente en la cátedra de Antropología Cultural en la Carrera de Médicos especialistas en Medicina Legal de la Facultad de Medicina de la Universidad de Buenos Aires, docente auxiliar enla cátedra de Bioética y Derecho y de Civil I en la Facultad de Derecho de la Universidad de Buenos Aires; profesora visitante de la Facultad de Derecho y Ciencias Sociales de la Universidad Privada San Pedro, Perú. Becaria del Gobierno Italiano, año académico 2003/4, proyecto de investigación “Tutela dei Diritti Fondamentali, studio comparato”, Universidad Degli Studi di Roma Tre , Roma.