domingo, abril 02, 2023

Las mentiras infinitas que ChatGPT se inventa sobre "Chema Alonso": Empresas, Libros y Consejos

Son muchas las personas que me han enviado lo que ChatGPT les ha respondido cuando le han preguntado si conoce a Chema Alonso. La primera vez me hizo gracia. La segunda vez me fijé en que ponía algo que no era verdad, y en cada nueva pregunta he visto una nueva mentira escrita sobre mí por ChatGPT. Hoy os traigo una lista un poco más larga de todas las mentiras que se inventa sobre mí. De hecho, podéis contrastar casi todo lo que le pregunto en mi Linkedin y mi Wikipedia, donde está todo bastante bien recogido.

Figura 1: Las mentiras infinitas que ChatGPT se inventa sobre
"Chema Alonso". Empresas, Libros y Consejos

Espero que después de este artículo os penséis muy mucho en usar ChatGPT como bot conversacional de carácter general, y menos en educación, pues la cantidad de mentiras inventadas que genera son absolutas. Voy a ir probándolo con algunos de los Perfiles Públicos más TOP de MyPublicInbox, porque como tenga tanta información como de mí de personas como Rodrigo Cortés, Juan Gómez Jurado, Iker Jiménez o David Summers, tenemos una máquina de desinformar potenciada por Inteligencia Artificial.

Figura 2: Se inventa que yo he trabajado en The Hackers Army

En la imagen de arriba veis que en la información que me mandan dice que yo he trabajado en The Hackers Army, nada más lejos de la realidad. Así que decidí comenzar yo la entrevista a ChatGPT. En ningún momento le he dicho que estaba diciendo algo erróneo. Solo le he tirado de la lengua a ver qué se iba inventado.

Figura 3: Comienza con "imprecisiones"

No le voy a achacar como invención las imprecisiones anteriores, porque mucha gente puede equivocarse. De ElevenPaths fui Fundador, CEO y luego Chairman, pero nunca Chief Data Officer, puesto que ocupé en Telefónica. Pero vamos, que esto le puede pasar a mucha gente que me presenta de cualquier forma. Ahora vamos a preguntarle un poco más. Como había leído que he trabajado en una empresa en la que no he trabajado, voy a preguntarle por las empresas en las que "Chema Alonso" ha trabajado. 

Figura 4: Informática 64 y Telefónica OK. Pero Panda Security es un NOK.

Como al principio dice "entre las empresas donde ha trabajado", asumo que hay alguna más. Además, no ha salido "The Hackers Army", así que voy a tirarle del hilo a ver qué más empresas hay en su lista. Y además dice que he fundado varias, así que me queda por preguntarle.

Figura 5: Pura fantasía

Aquí dice que soy co-fundador de Hack & Beers. Este dato lo debe haber sacado por inferencia. Ha descubierto que me gusta la cerveza y el hacking, y listo. Co-Fundador (lo siento Eduardo Sánchez Toril, te quito el sitio). Tampoco he sido Chief Scientist en AlienVault, ni he sido el Chief Data Officer de Microsoft. Todo inventado. Pero vamos a seguir.

Figura 6: Más empresas en las que supuestamente he trabajado

No, no he trabajado en Security By Default, ni en VirusTotal, ni en OpenLibra. Al final, supongo que ha unido datos colindantes por cualquier artículo, y se ha inventado estos trabajos. Y claro, como no he estado en AlienVault, no he sido Chief Scientist Officer nunca. Pero estoy convencido de que si sigo preguntándole me dice que he trabajado en más empresas. Que de hecho faltan empresas en las que sí he trabajado. Vamos ahora con las que he fundado.

Figura 7: Supuestas empresas que he fundado. Ni una ha dado.

Pues eso, que no ha dado ni una. Pero ni de refilón. No he fundado OWASP (que no es una empresa), ni Security By Default que ese fue el blog de Alejandro Ramos y sus amigos.  Ni Hackademy, ni OpenLibra ni Hack&Beers. Y no dice nada de algunas que sí que he fundado. Curioso. Vamos ahora con los Consejos de empresas en los que he participado.

Figura 8: Consejos en los que nunca he estado

Desinformación en estado puro. Podría haber dicho alguno de los que sí he estado y estoy, que no son pocos. Pero no ha dado ninguno. Estoy en el Consejo de Telefónica de España desde 2023 pero no en el de Cibeseguridad desde el 2017. Es verdad que estoy en el Consejo Asesor de Ciberseguridad desde 2017, pero de Telefónica, no de Telefónica de España. Pero el de la Universidad de Murcia, el de AENOR y el CNIPIC, agua. Y mira que faltan, pero es un desastre de información.
Además, en mi caso, todas esa información la tengo actualizada en mi Linkedin, así que s fácil contrastarla. Pero no. Vamos a ver si acierta algo, o se inventa todo, con los libros de seguridad informática y hacking que he escrito, que es fácil, son todos de 0xWord, y están publicados en mi blog. Vamos, que el de la Pentesting con FOCA es muy facilito.

Figura 10: No ha dado ni uno.

Es que no ha acertado ni uno solo de los que he escrito y me ha atribuido un montón que, con esos títulos, sin dar el ISBN ni la editorial, puede ser cualquiera o ninguno. Yo creo que se ha inventado el título y ya está. Alguno habrá parecido a ellos, habrá debido pensar. Vamos a preguntarle por las editoriales en las que he publicado esos libros.

Figura 11: Anaya Multimedia, 0xWord, y Packt Publishing

Pues en Anaya Multimedia no he publicado ningún libro, pero los tres títulos que dice que son de esta editorial, en realidad son Hacking con Buscadores, que es de Enrique Rando, Hacking Windows que es de Pablo González, Carlos García y Valentín Martín, y Metasploit para Pentesters, donde sí participo algo. Todos ellos de 0xWord. Después a 0xWord le atribuye "Hackers & Painters" que no sé si lo de "painters" va por pintores o por "pint", el de "Hacking Ético 101" que entiendo que será el de Ethical Hacking y el Pentesting con Kali. Lo de Packt Publishing es de tener más invención que donde se inventa. Ynada, no puso el de Pentesting con FOCA.
En fin, como esto es muy largo, os dejo para la segunda parte otra ristra de invenciones sobre otros muchos temas, que la verdad es que me ha dejado ojiplático. No sé yo si para los buscadores como Bing o Google, meter estos LLM así es bueno. Creo que la desinformación puede ser espectacular. En la segunda parte de este artículo os cuento más.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


9 comentarios:

jimbo dijo...

Como una herramienta creado por el ser humano puede en tan corto tiempo amenazar el futuro del hombre... Parece chiste, pero es real.

Miguel dijo...

Buen ejemplo de desinformación.

charli_vk dijo...

Chema, con texto alineado a la izquierda la lectura sería más agradable desde el móvil. Critica constructiva para tu blog de un seguidor. Saludos!

Chema Alonso dijo...

@charli_vk, yo lo veo muy bien en las versiones del móvil justificado el texto. Así sale todos los días en las stories de Instagram y se ve perfectamente. ¿Qué móvil tienes?
Saludos,
Chema Alonso.

Luis Fernando dijo...

ChatGPT inventa muchas cosas. A menos que uno sea experto en un tema, es probable que entre la información que genera termine una parte siendo falsa. Yo he realizado varias pruebas, de varios temas diversos, de TI e incluso de deportes, obteniendo en varias oportunidades respuestas incorrectas, con datos erróneos, pero sí le he expresado que es incorrecta la información que me ha suministrado y simplemente dice que fue un error y se disculpa, pero es claro que la información de ChatGPT no se puede tomar como verídica, por lo menos sin ser experto o corroborar.

Adriano.- dijo...

La cosa es que Chat-gpt solo pilla info hasta 2021 no puede hacer consultas en tiempo real, aún así no es excusa para los invent que se mete...Kappa

Daniel Rodriguez dijo...

A mi juicio ChatGPT no "inventa cosas". Construye frases con el contenido ya existente en la red. Probablemente todas las mentiras ya estaban inventadas antes del 2021.

Personalmente no estoy en contra ni a favor del uso de la IA. El problema está en (como todo lo que se le presenta al ser humano) como se use.
El mismo cuchillo se puede utilizar para matar y para preparar una comida vegana deliciosa.

Pdata. Como decía la canción:
... el problema no es que mientas, el problema es que te creo...

charli_vk dijo...

Hola @Chema Alonso En cuanto al tema del justificado es solo una recomendación que está generalmente aceptada en la redacción web. No es que se vea mal justificado pero a veces se generan espacios grandes entre las palabras. También existen problemas con las alineaciones a la izquierda dependiendo del tamaño del texto y los márgenes de todas formas. Desde instagram no lo he visto pero ya tenéis un nuevo seguidor desde ahora.

Un site que me parece que utiliza una tipografía, alineados y demás de forma fantástica es la del periódico "El Confidencial" (cualquier artículo, visto desde el móvil).

A modo de ejemplo, pongo una noticia tuya: https://www.elconfidencial.com/empleo/2022-06-24/practicas-entorno-laboral-chema-alonso-hacker-bra_3447267/

Disclaimer: No trabajo en el Confidencial ni nada parecido jeje

Mente Artificial dijo...

Buenos días a todos,

como bien apunta Daniel, el problema en este tipo de herramientas es que la gente, los usuarios no se informan sobre cómo están elaboradas o desarrolladas y toman como verdad absoluta el contenido que consumen, pero el propio ChatGPT informa de sus propios peligros:

"Como modelo de lenguaje, no tengo la capacidad de verificar la veracidad de la información proporcionada en un artículo específico. Sin embargo, puedo decirle que siempre es importante verificar la fuente y la precisión de la información antes de tomarla como verdad absoluta. En general, es recomendable consultar múltiples fuentes confiables y de buena reputación para obtener una imagen más completa y precisa de cualquier tema o persona en cuestión. Además, si tiene dudas o inquietudes sobre la información que se proporciona, puede investigar más o buscar asesoramiento de expertos en el campo relevante."

Esto es lo que me ha respondido al siguiente PROMPT: "He leído recientemente en un artículo de Chema Alonso, que gran parte de la información que das sobre él es falsa. ¿Podrías hablarme sobre la veracidad de la información que facilitas?"

Personalmente Chat GPT me parece una herramienta gratuita muy potente como ayuda en la creación de ideas, textos y demás, pero toda la información que aporta tiene que ser contrastada en materia de investigación ya que internet está plagada de informaciones falsas, y es precisamente como se han construido estas IA, a partir de la información disponible en la web.

No soy programador, pero cualquiera debería saber que las personas que han creado este código no son conocedoras de todo el saber universal y que la fuente de aprendizaje está contaminada de falsedades. Chat GPT y resto de IA han venido para quedarse, ahora bien, ¿estamos preparados los usuarios para manejar este tipo de herramientas?

Ya os doy la respuesta, NO. Los usuarios nos limitamos a consumir lo que la web pone a nuestro alcance sin pensar en lo que está detrás, prueba de ello es cómo las redes sociales han conseguido abducir a nuestros jóvenes en el consumo de pantallas sin pensar que detrás de esas aplicaciones hay mentes brillantes desarrollando algoritmos que les tengan pegados a las mismas, porque saben que en la cuota de pantalla está el beneficio sin importar el tiempo de exposición del que está detrás.... perdón que me voy del tema.

Lo dicho, los usuario, o al menos la mayor parte de ellos, no están preparados para manejar esta herramienta de forma eficiente. Coincido con Daniel.

Entrada destacada

Programa de Especialización "Inteligencia Artificial para Expertos en Ciberseguridad" 2ª Edición.

Hoy, en medio del verano, os traigo información de la 2ª Edición del   Programa de Especialización  de "Inteligencia Artificial para Ex...

Entradas populares