Skip to main content

Inteligencia artificial

Desde el SIRI hasta los autos sin conductor, la inteligencia artificial (IA) progresa rápidamente. Mientras que la ciencia ficción a menudo retrata a la IA como robots con características similares a las humanas, AI puede abarcar desde algoritmos de búsqueda de Google hasta Watson de IBM y armas autónomas.

Actualmente, la inteligencia artificial se conoce como IA estrecha (o IA débil), ya que está diseñada para realizar una tarea limitada (por ejemplo, solo reconocimiento facial o solo búsquedas en Internet o solo conducir un automóvil). Sin embargo, el objetivo a largo plazo de muchos investigadores es crear IA general (AGI o IA fuerte). Si bien la IA estrecha puede superar a los humanos en lo que sea que sea su tarea específica, como jugar al ajedrez o resolver ecuaciones, AGI superará a los humanos en casi todas las tareas cognitivas.

¿POR QUÉ INVESTIGAR LA SEGURIDAD DE AI?


A corto plazo, el objetivo de mantener el impacto de la IA en la sociedad beneficia la investigación en muchas áreas, desde economía y derecho hasta temas técnicos como verificación, validez, seguridad y control. Mientras que puede ser poco más que una molestia menor si su computadora portátil falla o es pirateada, se vuelve aún más importante que un sistema de inteligencia artificial haga lo que usted quiere que haga si controla su automóvil, su avión, su marcapasos, su comercio automatizado sistema o su red eléctrica Otro desafío a corto plazo es evitar una carrera armamentista devastadora en armas letales autónomas.

A largo plazo, una pregunta importante es qué sucederá si la búsqueda de IA fuerte tiene éxito y un sistema de inteligencia artificial se vuelve mejor que los humanos en todas las tareas cognitivas. Como lo señala I.J. Bueno en 1965, el diseño de sistemas inteligentes de IA es en sí mismo una tarea cognitiva. Tal sistema podría potencialmente experimentar auto-mejora recursiva, desencadenando una explosión de inteligencia que deja al intelecto humano muy atrás. Al inventar nuevas tecnologías revolucionarias, tal superinteligencia podría ayudarnos a erradicar la guerra, la enfermedad y la pobreza, por lo que la creación de IA fuerte podría ser el evento más grande en la historia de la humanidad. Algunos expertos han expresado su preocupación, sin embargo, que también podría ser el último, a menos que aprendamos a alinear los objetivos de la IA con los nuestros antes de que se vuelva superinteligente.

Hay quienes se preguntan si alguna vez se logrará una inteligencia artificial fuerte, y otros que insisten en que la creación de IA superinteligente tiene la garantía de ser beneficiosa. En FLI reconocemos estas dos posibilidades, pero también reconocemos la posibilidad de que un sistema de inteligencia artificial cause un daño intencional o no intencional. Creemos que la investigación de hoy nos ayudará a prepararnos mejor y a prevenir tales consecuencias potencialmente negativas en el futuro, disfrutando así de los beneficios de la IA y evitando las trampas.

¿CÓMO PUEDE AI SER PELIGROSO?


La mayoría de los investigadores coinciden en que es poco probable que una IA superinteligente muestre emociones humanas como el amor o el odio, y que no hay ninguna razón para esperar que la IA se vuelva intencionalmente benévola o malévola. En cambio, al considerar cómo la IA puede convertirse en un riesgo, los expertos consideran que hay dos escenarios más probables:

La IA está programada para hacer algo devastador: las armas autónomas son sistemas de inteligencia artificial que están programados para matar. En manos de la persona equivocada, estas armas fácilmente podrían causar bajas masivas. Además, una carrera de armamentos de inteligencia artificial podría conducir inadvertidamente a una guerra de IA que también resultaría en bajas masivas. Para evitar ser frustrados por el enemigo, estas armas estarían diseñadas para ser extremadamente difíciles de "apagar", por lo que los humanos podrían perder el control de tal situación. Este riesgo es uno que está presente incluso con IA estrecha, pero crece a medida que aumentan los niveles de inteligencia y autonomía de IA.

La IA está programada para hacer algo beneficioso, pero desarrolla un método destructivo para lograr su objetivo: esto puede suceder siempre que no logremos alinear completamente los objetivos de la IA con los nuestros, lo cual es sorprendentemente difícil. Si le pides a un auto obediente e inteligente que te lleve al aeropuerto lo más rápido posible, es posible que te persigan en helicópteros y te cubran de vómitos, sin hacer lo que querías sino literalmente lo que pediste. Si un sistema superinteligente tiene la tarea de realizar un ambicioso proyecto de geoingeniería, podría causar estragos en nuestro ecosistema como efecto secundario, y ver los intentos humanos para detenerlo como una amenaza que se debe cumplir.
Como ilustran estos ejemplos, la preocupación sobre la IA avanzada no es la malevolencia, sino la competencia. Una IA superinteligente será extremadamente buena en el logro de sus objetivos, y si esos objetivos no están alineados con los nuestros, tenemos un problema. Probablemente no eres un malvado enemigo de las hormigas que pisa las hormigas por maldad, pero si estás a cargo de un proyecto de energía verde hidroeléctrica y hay un hormiguero en la región que se inunda, demasiado malo para las hormigas. Un objetivo clave de la investigación de seguridad de IA es nunca colocar a la humanidad en la posición de esas hormigas.

POR QUÉ EL INTERÉS RECIENTE EN SEGURIDAD IA



Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates y muchos otros grandes nombres de la ciencia y la tecnología han expresado recientemente su preocupación en los medios de comunicación y en cartas abiertas sobre los riesgos planteados por la inteligencia artificial, junto con muchos investigadores líderes en inteligencia artificial.
ciencia



Comments

Popular posts from this blog

El Internet de las cosas

Las tostadoras inteligentes, los termómetros rectales conectados y los collares de ejercicio para perros son solo algunos de los "elementos tontos" cotidianos que se conectan a la web como parte del Internet of Things (IoT).
Las máquinas conectadas y los objetos en las fábricas ofrecen el potencial para una "cuarta revolución industrial", y los expertos predicen que más de la mitad de las nuevas empresas se ejecutarán en el IoT para 2020.
Aquí hay todo lo que necesita saber sobre el mundo cada vez más conectado.
¿Qué es el Internet de las cosas?
En el sentido más amplio, el término IoT abarca todo lo relacionado con Internet, pero cada vez se usa más para definir objetos que se "comunican" entre sí. "Simplemente, el Internet de las cosas está compuesto por dispositivos, desde sencillos sensores hasta teléfonos inteligentes y dispositivos portátiles, conectados entre sí", dice Matthew Evans, director del programa IoT en techUK.
Al combinar estos dispo…

Impresión 3D

3D La impresión es un proceso de fabricación aditiva que crea un objeto físico a partir de un diseño digital. Existen diferentes tecnologías y materiales de impresión 3D con los que puede imprimir, pero todos se basan en el mismo principio: un modelo digital se convierte en un sólido objeto físico tridimensional al agregar material capa por capa.
En esta guía encontrará todo lo que necesita saber sobre la impresión 3D, empezando por los conceptos básicos antes de sumergirse más profundo para proporcionarle el conocimiento experto que será esencial una vez que decida comenzar.
Los basicos¿Cómo funciona la impresión 3D?
Cada impresión en 3D comienza como un archivo de diseño 3D digital, como un plano, para un objeto físico. Intentar imprimir sin un archivo de diseño es como tratar de imprimir un documento en una hoja de papel sin un archivo de texto. Este archivo de diseño se divide en capas delgadas que luego se envían a la impresora 3D.
A partir de aquí, el proceso de impresión varía segú…

Almuerzos saludables

El almuerzo es a menudo la comida olvidada. Sé que hoy salí corriendo a la puerta del trabajo, fui a algunas reuniones, redacté un informe que vencía, luego, a las 12:30 p.m., miré a mi alrededor y me di cuenta de que olvidé mi almuerzo. Sí, es cierto, tuve que dar un paseo de la vergüenza hasta la cafetería y tomarme lo más saludable que pude encontrar ... una barra de poder y pretzels. 
Pero me dejó pensando. El desayuno y la cena reciben mucha atención. Todos sabemos que comer un desayuno nutritivo es una necesidad para bajar de peso y estoy seguro de que todos podemos recordar la importancia de una cena familiar saludable alrededor de la mesa. Sin embargo, para el almuerzo, lo más probable es que busquemos los restos de pb & j de los niños o las sobras y ni siquiera lo pensemos. Bueno, quiero más que las costras de mis hijos, y tú también deberías.
Aquí hay 3 consejos para ayudarlo a preparar rápidamente un almuerzo saludable.

1. Cree un plan de menú que incluya almuerzos.
La mayor…