Skip to main content

Inteligencia artificial

Desde el SIRI hasta los autos sin conductor, la inteligencia artificial (IA) progresa rápidamente. Mientras que la ciencia ficción a menudo retrata a la IA como robots con características similares a las humanas, AI puede abarcar desde algoritmos de búsqueda de Google hasta Watson de IBM y armas autónomas.

Actualmente, la inteligencia artificial se conoce como IA estrecha (o IA débil), ya que está diseñada para realizar una tarea limitada (por ejemplo, solo reconocimiento facial o solo búsquedas en Internet o solo conducir un automóvil). Sin embargo, el objetivo a largo plazo de muchos investigadores es crear IA general (AGI o IA fuerte). Si bien la IA estrecha puede superar a los humanos en lo que sea que sea su tarea específica, como jugar al ajedrez o resolver ecuaciones, AGI superará a los humanos en casi todas las tareas cognitivas.

¿POR QUÉ INVESTIGAR LA SEGURIDAD DE AI?


A corto plazo, el objetivo de mantener el impacto de la IA en la sociedad beneficia la investigación en muchas áreas, desde economía y derecho hasta temas técnicos como verificación, validez, seguridad y control. Mientras que puede ser poco más que una molestia menor si su computadora portátil falla o es pirateada, se vuelve aún más importante que un sistema de inteligencia artificial haga lo que usted quiere que haga si controla su automóvil, su avión, su marcapasos, su comercio automatizado sistema o su red eléctrica Otro desafío a corto plazo es evitar una carrera armamentista devastadora en armas letales autónomas.

A largo plazo, una pregunta importante es qué sucederá si la búsqueda de IA fuerte tiene éxito y un sistema de inteligencia artificial se vuelve mejor que los humanos en todas las tareas cognitivas. Como lo señala I.J. Bueno en 1965, el diseño de sistemas inteligentes de IA es en sí mismo una tarea cognitiva. Tal sistema podría potencialmente experimentar auto-mejora recursiva, desencadenando una explosión de inteligencia que deja al intelecto humano muy atrás. Al inventar nuevas tecnologías revolucionarias, tal superinteligencia podría ayudarnos a erradicar la guerra, la enfermedad y la pobreza, por lo que la creación de IA fuerte podría ser el evento más grande en la historia de la humanidad. Algunos expertos han expresado su preocupación, sin embargo, que también podría ser el último, a menos que aprendamos a alinear los objetivos de la IA con los nuestros antes de que se vuelva superinteligente.

Hay quienes se preguntan si alguna vez se logrará una inteligencia artificial fuerte, y otros que insisten en que la creación de IA superinteligente tiene la garantía de ser beneficiosa. En FLI reconocemos estas dos posibilidades, pero también reconocemos la posibilidad de que un sistema de inteligencia artificial cause un daño intencional o no intencional. Creemos que la investigación de hoy nos ayudará a prepararnos mejor y a prevenir tales consecuencias potencialmente negativas en el futuro, disfrutando así de los beneficios de la IA y evitando las trampas.

¿CÓMO PUEDE AI SER PELIGROSO?


La mayoría de los investigadores coinciden en que es poco probable que una IA superinteligente muestre emociones humanas como el amor o el odio, y que no hay ninguna razón para esperar que la IA se vuelva intencionalmente benévola o malévola. En cambio, al considerar cómo la IA puede convertirse en un riesgo, los expertos consideran que hay dos escenarios más probables:

La IA está programada para hacer algo devastador: las armas autónomas son sistemas de inteligencia artificial que están programados para matar. En manos de la persona equivocada, estas armas fácilmente podrían causar bajas masivas. Además, una carrera de armamentos de inteligencia artificial podría conducir inadvertidamente a una guerra de IA que también resultaría en bajas masivas. Para evitar ser frustrados por el enemigo, estas armas estarían diseñadas para ser extremadamente difíciles de "apagar", por lo que los humanos podrían perder el control de tal situación. Este riesgo es uno que está presente incluso con IA estrecha, pero crece a medida que aumentan los niveles de inteligencia y autonomía de IA.

La IA está programada para hacer algo beneficioso, pero desarrolla un método destructivo para lograr su objetivo: esto puede suceder siempre que no logremos alinear completamente los objetivos de la IA con los nuestros, lo cual es sorprendentemente difícil. Si le pides a un auto obediente e inteligente que te lleve al aeropuerto lo más rápido posible, es posible que te persigan en helicópteros y te cubran de vómitos, sin hacer lo que querías sino literalmente lo que pediste. Si un sistema superinteligente tiene la tarea de realizar un ambicioso proyecto de geoingeniería, podría causar estragos en nuestro ecosistema como efecto secundario, y ver los intentos humanos para detenerlo como una amenaza que se debe cumplir.
Como ilustran estos ejemplos, la preocupación sobre la IA avanzada no es la malevolencia, sino la competencia. Una IA superinteligente será extremadamente buena en el logro de sus objetivos, y si esos objetivos no están alineados con los nuestros, tenemos un problema. Probablemente no eres un malvado enemigo de las hormigas que pisa las hormigas por maldad, pero si estás a cargo de un proyecto de energía verde hidroeléctrica y hay un hormiguero en la región que se inunda, demasiado malo para las hormigas. Un objetivo clave de la investigación de seguridad de IA es nunca colocar a la humanidad en la posición de esas hormigas.

POR QUÉ EL INTERÉS RECIENTE EN SEGURIDAD IA



Stephen Hawking, Elon Musk, Steve Wozniak, Bill Gates y muchos otros grandes nombres de la ciencia y la tecnología han expresado recientemente su preocupación en los medios de comunicación y en cartas abiertas sobre los riesgos planteados por la inteligencia artificial, junto con muchos investigadores líderes en inteligencia artificial.
ciencia



Comments

Popular posts from this blog

Impresión 3D

3D La impresión es un proceso de fabricación aditiva que crea un objeto físico a partir de un diseño digital. Existen diferentes tecnologías y materiales de impresión 3D con los que puede imprimir, pero todos se basan en el mismo principio: un modelo digital se convierte en un sólido objeto físico tridimensional al agregar material capa por capa.
En esta guía encontrará todo lo que necesita saber sobre la impresión 3D, empezando por los conceptos básicos antes de sumergirse más profundo para proporcionarle el conocimiento experto que será esencial una vez que decida comenzar.
Los basicos¿Cómo funciona la impresión 3D?
Cada impresión en 3D comienza como un archivo de diseño 3D digital, como un plano, para un objeto físico. Intentar imprimir sin un archivo de diseño es como tratar de imprimir un documento en una hoja de papel sin un archivo de texto. Este archivo de diseño se divide en capas delgadas que luego se envían a la impresora 3D.
A partir de aquí, el proceso de impresión varía segú…

El Internet de las cosas

Las tostadoras inteligentes, los termómetros rectales conectados y los collares de ejercicio para perros son solo algunos de los "elementos tontos" cotidianos que se conectan a la web como parte del Internet of Things (IoT).
Las máquinas conectadas y los objetos en las fábricas ofrecen el potencial para una "cuarta revolución industrial", y los expertos predicen que más de la mitad de las nuevas empresas se ejecutarán en el IoT para 2020.
Aquí hay todo lo que necesita saber sobre el mundo cada vez más conectado.
¿Qué es el Internet de las cosas?
En el sentido más amplio, el término IoT abarca todo lo relacionado con Internet, pero cada vez se usa más para definir objetos que se "comunican" entre sí. "Simplemente, el Internet de las cosas está compuesto por dispositivos, desde sencillos sensores hasta teléfonos inteligentes y dispositivos portátiles, conectados entre sí", dice Matthew Evans, director del programa IoT en techUK.
Al combinar estos dispo…

Samsung crea el microprocesador mas pequeño del mercado

El gigante surcoreano Samsung Electronics anunció el miércoles que comenzará la producción de una nueva generación de microprocesadores con un diseño de 7 nanómetros, el más pequeño hasta la fecha, y apunta a comercializarlos en 2019.
El fabricante de semiconductores más grande del mundo comenzará este año a utilizar la nueva tecnología de litografía ultravioleta extrema para aumentar la capacidad de los chips antes de su posterior lanzamiento, dijo la compañía en un comunicado.
La firma hizo el anuncio durante un foro anual de su subsidiaria Samsung Foundry en Santa Clara, Estados Unidos, donde también reveló que estaba trabajando en tecnología de proceso de 5 nm, 4 nm y 3 nm.
Cada nueva generación de chips se define por el tamaño mínimo de sus componentes fundamentales, en este caso 7nm (un nanómetro es mil veces más pequeño que un glóbulo rojo), con el objetivo de desarrollar microprocesadores más potentes con más transistores.
A mediados de 2015, IBM, con sede en Nueva York, anunció q…