Continua Leyendo...
Cortesía de Sam Altman Twitter (@sama)
La Inteligencia Artificial (IA), con el popular chatbot conversacional ChatGPT, está convirtiéndose en la tecnología más famosa del mundo. No solo por la incorporación al mundo de Microsoft, a través de su nuevo buscador Bing, sino por ser una de las tecnologías en las que todas las grandes compañías del sector está invirtiendo y anunciando nuevos servicios. Pero está claro que su desarrollo está dando mucho que hablar y muchos están asustados por lo que puede deparar el futuro con este tipo de tecnología. Uno de ellos es el CEO de OpenAI, empresa de la que sale ChatGPT, Sam Altman, que ha advertido de que esta tecnología conlleva peligros reales a medida que remodela la sociedad.
El ejecutivo de OpenAI ha mostrado su preocupación sobre la IA en una entrevista con ABC News diciendo que “tenemos que tener cuidado”, añadiendo que “estoy particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala”.
Asimismo, ha apuntado que “ahora que están mejorando en la escritura de código, se podrían usar para ataques cibernéticos ofensivos”.
Por eso, ha indicado que “creo que la gente debería estar feliz de que estemos un poco asustados por esto”.
Ahora bien, Altman también ha señalado que, a pesar de estos riesgos, podría ser “la mayor tecnología que la humanidad ha desarrollado hasta ahora”.
La advertencia de este ejecutivo se produce unos días después de que saliera a la luz la nueva generación de ChatGPT, el GPT-4, que llega tan solo cuatro meses después de que el chatbot conversacional viera la luz y se convirtiera en una de las apps más famosas del mundo, revolucionando todo el sector tecnológico.
El CEO de OpenAI ha indicado también que aunque la nueva versión “no era perfecta”, había conseguido una puntuación del 90 por ciento en los exámenes del colegio de abogados de Estados Unidos, y una puntuación casi perfecta en el examen de Matemáticas de la escuela secundaria. También sería capaz de escribir códigos de ordenadores en la mayoría de los lenguajes de programación.
En cuanto a los temores de que la Inteligencia Artificial sea capaz de reemplazar el trabajo realizado por los humanos, Altman ha señalado que sólo funciona bajo la dirección o el aporte de los humanos, aunque ha admitido que le preocupa qué humanos tenían el control de hacer la entrada que activa la tecnología.
Por eso, ha insistido en las medidas de seguridad que están poniendo en marcha en ChatGPT diciendo que “habrá otras personas que no pongan algunos de los límites de seguridad que ponemos nosotros”, añadiendo que “creo que la sociedad tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante esto, cómo regularlo, cómo manejarlo”.
Durante la entrevista, Altman ha admitido que la última versión utiliza el razonamiento deductivo en lugar de la memorización, un proceso que puede dar lugar a respuestas extrañas. Por eso, el ejecutivo ha indicado que “lo que más trato de advertir a la gente es lo que llamamos el problema de las alucinaciones”, añadiendo que “el modelo afirmará con confianza cosas que son inventadas, como si se tratara de hechos”.
Debido a esta situación, Altman ha afirmado que “la forma correcta de pensar en los modelos que creamos es un motor de razonamiento, no una base de datos de hechos. Lo que queremos que hagan es algo más cercano a la capacidad de razonar, no de memorizar”.
Otro de los temores que ha expresado Altman sobre la Inteligencia Artificial es que se pueda utilizar para ciberataques ofensivos, ya que es capaz de escribir código.
Hay que recordar que no hace mucho, Elon Musk, que es uno de los inversores de OpenAI cuando todavía era una empresa en ciernes, ha expresado que la IA es uno de los mayores riesgos para el futuro de la civilización, por lo que sería importante que se regulara oficialmente.
En este sentido, Altman coincide con Musk diciendo que está en contacto con los funcionarios de gobierno de Estados Unidos, insistiendo en que “creo que la sociedad tiene una cantidad limitada de tiempo para descubrir cómo reaccionar ante esto, cómo regularlo, cómo manejarlo”.
