viernes, 16 de enero de 2015

Stephen Hawking y Elon Musk advierten sobre los peligros de la inteligencia artificial


Stephen Hawking, Elon Musk, y  otros 800 científicos e investigadores han firmado una carta abierta alertando sobre los peligros de la inteligencia artificial y la responsabilidad que plantea su desarrollo "para el bien de la sociedad".
La carta, que fue redactada por el Future of Life Institute (Instituto para la vida Futura), anticipa que la inteligencia artificial tendrá el potencial de cambiar la faz de la Tierra. Pero al mismo tiempo, asegura, es necesario tomar recaudos para asegurarse de que esas nuevas inteligencias, creadas por el ser humano, estén regidas por nuestras intenciones, con el máximo beneficio posible para toda la humanidad.

El texto afirma: 
Es evidente que la investigación en I.A. está avanzando cada vez más, y que es probable que su impacto en la sociedad siga creciendo. Los beneficios potenciales de ese desarrollo son enormes. Ya que todo lo que la civilización tiene ahora para ofrecernos es producto de la inteligencia humana, no podemos predecir qué es lo que podríamos llegar a lograr una vez que nuestra inteligencia se vea ampliada por las herramientas que la inteligencia artificial pueda proveernos, pero la erradicación total de las enfermedades y la pobreza no parecen fantasías inalcanzables. Debido al gran potencial de estas nuevas tecnologías, es importante investigar de qué maneras podríamos cosechar sus beneficios y a la vez evitar potenciales riesgos.   

Elon Musk considera que el desarrollo de la inteligencia artificial puede ser sumamente útil, pero que si se hace irresponsablemente, puede equivaler a "invocar demonios". En tal caso, considera que estos sistemas inteligentes pueden ser potencialmente más peligrosos que los mismos misiles nucleares.

El astrofísico Stephen Hawking tiene una opinión parecida: si bien admite que los sistemas actuales son todavía rudimentarios, piensa que una computadora con una inteligencia igual o superior a la nuestra puede llegar a ser el último invento una humanidad, que pronto se vería totalmente superada por su propia creación. "Una inteligencia artificial [de ese calibre] comenzaría a funcionar por su cuenta, y podría re-diseñarse a sí misma a una velocidad cada vez mayor... Los seres humanos, limitados como estamos por la lentitud de nuestra evolución biológica, no podríamos competir... esto podría representar el fin de la raza humana"

El texto alude asimismo a un informe de la universidad de Stanford, que menciona como área de estudio la posible pérdida de control de estos sistemas, y subraya el peligro que representaría la el hecho de que una inteligencia artificial decidieran dejar de acatar los deseos de quienes la crearon, para perseguir sus propios objetivos, que acaso vayan en contra de los nuestros y amenacen la misma existencia de la especie humana.

Además de Musk y Hawking, firmaron la carta numerosas figuras del mundo de la ciencia y la tecnología. Ojalá que las futuras inteligencias que creemos colaboren con nosotros para mejorar el mundo y todas estas advertencias no pasen de ser eso: advertencias. Pero cuando tanta gente brillante y experimentada advierte sobre un peligro de esta magnitud, parece prudente tomar sus advertencias muy en serio. 

No hay comentarios. :

Publicar un comentario