Cómo usar ChatGPT: Seguridad y Precisión en prompt | GPT.Ep 03

A medida que avanzamos en nuestra exploración de ChatGPT, es fundamental entender no solo cómo aprovechar sus capacidades, sino también cómo manejar sus limitaciones. Este artículo se centra en la precisión de las respuestas, la seguridad en el uso de la información generada, y cómo ChatGPT se compara con otras herramientas de inteligencia artificial (IA) en el mercado.

A modo de Repaso, ya hablamos en artículos anteriores de:

• ¿Qué es ChatGPT y para qué sirve?
• ¿Que es un prompt? o el prompt
• ¿Cómo usar gratis Chat GPT?
• ¿Que son las «alucinación» de ChatGPT y como reducirlas?
• ¿Como reducir las «alucinación» de ChatGPT?
• ¿Cómo puedo mejorar las respuestas de ChatGPT?
• ¿Que es el Fine-Tuning?
• GPT Custom Instructions
• GPT Custom Instructions «Modo dios»
• limitaciones actuales de ChatGPT
• Limitaciones formales o legales en ChatGPT
• Hackear Chat GPT y que responda lo que quieras
• ChatGPT para tareas académicas o educativas

¿Qué cuidados debo tener al utilizar ChatGPT para obtener información?

Cuando utilizas ChatGPT para obtener información, es crucial recordar que, aunque el modelo está diseñado para generar texto coherente, no siempre garantiza la veracidad de los datos. Esto se debe a un fenómeno conocido como “alucinaciones”, donde ChatGPT puede generar respuestas que, aunque parecen plausibles, no son precisas o están completamente inventadas, por ello es muy importante Aprender a evitar o reducir las alucinación en Chat GPT

Importante: Ser concreto en el requerimiento reduce las alucinaciones. Cuando haces un prompt, asegúrate de ser específico y claro. Esto no solo mejora la precisión de la respuesta, sino que también minimiza la posibilidad de que ChatGPT genere información incorrecta.

Cuándo le haces un pedido un colaborador, por ejemplo un programador o un diseñador seguramente eres bien específico en la tarea que quieres que resuelva, le cuentas todo el detalle, el contexto, quién es el cliente, todas las aplicaciones de usos, etc…. un prompt es exactamente eso, y ChatGPT no es mejor o peor puede ser que tenga ciertas habilidades de interpretación, pero la verdad es que queremos reducirlas al mínimo necesario.

Ejemplo de prompt concretos para reducir Alucinaciones:

• Incorrecto: “Háblame de la historia de la inteligencia artificial.”

• Correcto: “Resúmeme tres hitos clave en el desarrollo de la inteligencia artificial entre 1950 y 2000, y menciona a los investigadores más destacados. Si es posible dame links de referencia a las fuentes de la información. Me interesa particularmente las aplicaciones de inteligencia artificial en el ámbito de la medicina en el diagnóstico, predicción y tratamiento de glaucoma y cáncer”

Proceso de pensamiento: La claridad en el prompt guía a ChatGPT en su proceso de generación de texto, ayudándolo a seleccionar la información más relevante y precisa.

Si tenemos en cuenta que los LLM están entrenados, con miles de millones de textos en miles de áreas de conocimiento, justamente lo que tenemos que buscar en el prompt, como habrás notado en el ejemplo anterior es: reducir el área de conocimiento, para que el la IA pueda resolver la tarea con mejor precisión.

¿Qué cuidados debes tener al compartir información de tu empresa o proyecto?

Al compartir información de tu empresa o proyecto con ChatGPT, es fundamental tener en cuenta los siguientes cuidados:

Confidencialidad en GPT

No compartas información confidencial o sensible, ya que ChatGPT no tiene la capacidad de garantizar la privacidad de los datos. En la misma línea OpenAI, y otras compañías de desarrollo de LLM dicen que se reservan la capacidad de guardar y registrar tus conversaciones para entrenar futuras versiones de GPTs. Debes tener en cuenta que esto se puede configurar, en las versiones pagas puedes explicitar que no quieres colaborar en el aprendizaje de futuros GPTs «Improve the model for everyone», yo lo tengo activo, vos déjalo como prefieras, Yo colaboro para que los GPTs mejores sus capacidades.

Compartir Datos personales en GPT

Evitá proporcionar datos personales o información que pueda identificar a personas específicas, en especial cuando se trata de terceros, es decir no cargues bases de datos o listas de e-mails, teléfonos, etc…

Supongo que la regla de oro o sea GPT, o cualquier otra herramienta, es no compartas información con nadie o «nada». Para proteger la privacidad de tus usuarios, es clave que tengas una política estricta que asegure que ningún dato que permita identificar a una persona se comparta con herramientas de terceros. Esto incluye, entre otros, correos electrónicos, números de teléfono, números de seguridad social y pasaportes. Como las leyes varían entre países y herramientas como Analytics o GPT se pueden usar de diferentes maneras, te recomiendo que consultes con un Abogado en «Derecho Informático», especialista en gestión y administración de Datos personales y si tenés dudas sobre si cierta información podría considerarse como Información de Identificación Personal o PII, por sus siglas en inglés).

Es recomendable que dentro de tu empresa se desarrolle un manual de uso de plataformas de LLMs y GPTs. Este manual debería incluir pautas claras sobre qué tipo de información es segura para compartir y qué datos deben evitarse, así como una lista de modelos de lenguaje autorizados y aquellos que no lo están. Además, sería útil detallar los proyectos en los que se pueden aplicar estos modelos, indicando el nivel de detalle permitido. Incorporar una sección sobre mejores prácticas para prompts podría optimizar el uso eficiente de estas herramientas, asegurando respuestas más precisas y ajustadas a las necesidades del negocio.

También, se recomienda establecer un protocolo de revisión humana para asegurar la calidad y la veracidad de las respuestas generadas, y definir una frecuencia para actualizar los lineamientos, manteniendo al equipo alineado con las últimas mejoras tecnológicas.

Revisión de respuestas en GPT

Verificá las respuestas generadas para asegurarte de que no incluyan información errónea o malinterpretaciones. El Uso responsable: Utilizá ChatGPT como una herramienta de apoyo, no como la única fuente de verdad para decisiones críticas. A pesar de que los modelos de lenguaje como GPT son poderosos, la intervención humana es indispensable para revisar respuestas, especialmente en casos complejos o sensibles. Ese tema da mucha tela para cortar así que lo voy desarrollar en otro articulo «Cómo usar ChatGPT: verificación de respuestas | GPT.EpX»

Sanitización de datos, antes de compartirlas con ChatGPT

Existe un concepto conocido como «sanitización de datos» que se refiere a la práctica de modificar o enmascarar información sensible para protegerla antes de compartirla o procesarla. Al utilizar ChatGPT, podés aplicar técnicas de sanitización para eliminar o anonimizar datos sensibles de tus entradas. Aquí hay algunas prácticas recomendadas:

1. Anonimización: Reemplazá nombres, direcciones y otros datos identificables con pseudónimos o identificadores genéricos.
2. Enmascaramiento: Ocultá información confidencial (como números de cuenta) usando símbolos o caracteres alternativos. Quizás estés pensando en utilizar alguna metodología como por ejemplo SHA-2 y conjuntos de funciones hash criptográficas como SHA-256, SHA-512, etc. No es una mala idea pero ten en cuenta que para las AI, es muy fácil romper estas inscripciones hash criptográficos, pero es una forma de empezar.
   
3. Resúmenes o Muestreos: En lugar de compartir información completa, proporcioná resúmenes, Muestreos o extractos que no incluyan datos críticos.

Estas prácticas permiten aprovechar las capacidades de GPT, mientras se protege la información sensible.

¿Puedo confiar en las respuestas de ChatGPT sobre temas científicos?

ChatGPT es una herramienta poderosa para explicar conceptos científicos, pero es fundamental utilizarlo con precaución. El modelo puede ofrecer una base sólida para comprender temas complejos, pero no debe ser la única fuente de información. Esto es particularmente importante en áreas donde los detalles y la precisión son cruciales, como la investigación médica o las ciencias naturales.

Recordemos que: ChatGPT se basa en datos hasta cierto punto de corte (2024, dependiendo de la versión). Esto significa que la información reciente o estudios científicos publicados después de esa fecha pueden no estar incluidos en sus respuestas. Siempre verifica los datos con fuentes actualizadas y confiables.

Ejemplo de prompt para temas científicos:

• Incorrecto: “Explícame cómo funciona la vacuna de ARNm.”

• Correcto: “Dame una explicación general sobre cómo funciona la vacuna de ARNm basada en estudios científicos hasta 2021, y menciona los principales desafíos en su desarrollo. Me interesa particularmente las vacunas contra el COVID, Y aplicaciones posibles de esa metodología para otras patologías”

¿Cómo utilizar ChatGPT para resumir artículos?

ChatGPT es una herramienta valiosa cuando necesitamos procesar grandes volúmenes de Documentación, información técnica o médica. Imagínense analizar una ley o una Constitución completa. La capacidad para resumir textos largos en puntos clave es esencial para los profesionales, Abogados, Ingenieros quienes pueden utilizar la IA para optimizar el análisis de documentos extensos, como artículos técnicos, investigaciones médicas o informes de proyectos. Al formular prompts efectivos, se puede guiar a ChatGPT para que extraiga la información más relevante, lo que facilita la toma de decisiones y el uso eficiente del tiempo.

Considera tareas como examinar, analizar pliegos licitatorios y preparar documentación pertinente, demanda procesos administrativos complejos, equipos multidisciplinarios Ingenieros, contables. Profesionales altamente especializados. Podrías entrenar Agentes en ChatGPT para procesar toneladas de documentación, y crear entregables ejecutivos para todos los interesados del proyecto. Pero claro esto siempre tiene que estar bajo supervisión de profesionales idóneos. Ya comenté en otros capítulos esto es un «copilot» no un agente autónomo, Solo es un asistente.

Ejemplos de prompts Para crear resumenes

Antes de continuar, es muy importante que tengas en cuenta un detalle importante y viene al caso del tema «resúmenes» o desarrollo de textos en general. Es inútil que le pidas en el prompts extensiones de texto, en cantidad de palabras, o cantidad de caracteres. Va a ser simplemente mera casualidad que ChatGPT le pegue en la cantidad de caracteres o en la cantidad de palabras que le pidas, ya que no es bueno para ese tipo de tareas. Cuando estemos creando resúmenes o desarrollando textos en general, simplemente aclárale que «quieres que se esfuerce y que sea un texto largo», que «puede ser un texto corto sencillo», etc. No te vuelvas loco definiendo extensiones o contando palabras. Ojo esto es ahora mientras estoy armando estos artículos, Quizá estés leyendo esto, y GPT haya mejorado en esa tarea 😛

1. Para resúmenes de artículos técnicos o científicos:
   • Prompt: «Resumí el [TEMA] del artículo, enfocándote en [palabras clave]. Público objetivo: [profesionales de ingeniería/médicos/ CEOs, etc].»
   • Prompt: «Generá un resumen de [TEMA] incluyendo los aspectos más relevantes para [público objetivo], con un enfoque en [palabras clave]»
2. Para documentos adjuntos:
   • Prompt: «Dame un resumen del documento adjunto sobre [TEMA], resaltando [palabras clave] y adaptando la información para [público objetivo].»
   • Prompt: «Resumí el documento adjunto destacando los puntos clave sobre [TEMA], enfocado en [palabras clave] y dirigido a [público objetivo].»
   • Prompt: “Resúmeme los cinco puntos clave del siguiente artículo sobre el impacto del cambio climático en la biodiversidad. Asegúrate de incluir los efectos en diferentes ecosistemas y las posibles soluciones propuestas.”

Importante: Cuando utilices ChatGPT para resumir información, revisa siempre el resumen para asegurarte de que no se haya omitido ningún detalle crítico. La capacidad de ChatGPT para condensar información es potente, pero puede perder matices importantes si el prompt no es lo suficientemente específico.

Proceso de pensamiento: Al pedir un resumen, estás solicitando a ChatGPT que procese un volumen de texto y extraiga lo más relevante. Esta tarea involucra un procesamiento más complejo de la información, donde la claridad del prompt influye directamente en la calidad del resultado.

ChatPDF, si lo Googleas lo vas a encontrar rápidamente, no es una aplicación de OpenAI, sin duda es un GPTs bien entrenado. ChatGPT ya tiene esta funcionalidad gratis y la versión paga soporta PDFs mas grandes

Una de las aplicaciones más buscadas relacionadas con IA, después de la creación de imágenes es ChatPDF, como te estarás imaginando sip, le podemos cargar un PDF un manual, un libro, tu libro favorito, lo que quieras en formato PDF, y podemos interactuar con el Chat como si fuese ese libro

• Podemos pedirle que se convierta en un personaje de ese cuento
• Podemos pedirle que se convierta en ese autor
• y claro, lo mas común es que lo uses para hacer un resúmenes, usarlo «como ayuda» o Guía

¿Cuáles son las diferencias entre ChatGPT gratuito y las versiones de pago?

ChatGPT ofrece varias versiones, desde la gratuita hasta opciones de pago que incluyen funcionalidades avanzadas. Las principales diferencias radican en la capacidad del modelo, la rapidez en la generación de respuestas, y el acceso a modelos más recientes y potentes, como GPT-4, GPT-4 Turbo, GPT-4o, and GPT-4o mini

Cuando comparás la versión estándar de GPT con la gratuita, la principal diferencia radica en las capacidades y el acceso a características avanzadas. La versión estándar, como GPT-4, ofrece procesamiento más rápido, mayor precisión, y acceso a funciones adicionales como la entrada y salida de imágenes, audio, y un mayor contexto (hasta 128k). Además, suele ser más adecuada para tareas complejas y multilingüismo mejorado. En cambio, la versión gratuita, como la que se encuentra en GPT-3.5, tiene capacidades más limitadas, con menor velocidad y un contexto más reducido.

¿Cómo comparar ChatGPT con otras herramientas de inteligencia artificial?

En el mercado actual, existen varias herramientas de IA que compiten con ChatGPT, como google gemini (antes Bard), Perplexity AI y Microsoft Copilot, Bing Chat. Comparar estas herramientas es esencial para determinar cuál se ajusta mejor a tus necesidades específicas.

Criterios de comparación:

• Precisión de las respuestas: ¿Qué tan precisa y confiable es la información proporcionada?
• Facilidad de uso: ¿Es la herramienta intuitiva y accesible para usuarios sin conocimientos técnicos?
• Capacidades adicionales: ¿Ofrece funciones como la integración de APIs, la personalización avanzada, o la generación de código.

Al comparar herramientas, es fundamental evaluar tanto las capacidades técnicas como la facilidad de integración en tus flujos de trabajo. Esto asegura que la herramienta elegida no solo sea potente, sino también práctica y eficiente.

Si trabajas dentro del ecosistema de Google, con google workspace, sin duda deberías estar evaluando google gemini. De igual forma que si trabajas con ecosistema Microsoft, quiénCopilot podría ser tu aliado.

Resumen GPT.Ep 03

En este artículo, hemos abordado aspectos críticos relacionados con la seguridad y precisión al usar ChatGPT, incluyendo cómo evitar alucinaciones y cuándo es necesario verificar la información. También hemos explorado cómo ChatGPT se compara con otras herramientas de inteligencia artificial, y qué considerar al elegir la versión gratuita o de pago. Estos conocimientos te preparan para aprovechar al máximo ChatGPT en tareas que requieren alta precisión y análisis crítico.

Es necesario que desarrolles el manual de tu empresa, para el uso autorizado o no de LLMs.

Te recuerdo que tengo una serie de artículos que hablan de ChatGPT qué puedes ver en ese link.

ChatGPT, no te va a dejar sin trabajo. Sin trabajo, te van a dejar las personas que antes lo empiecen a usar

Si este artículo fue de tu interés, si en este artículo pudiste resolver preguntas

¡Compartilo con tus amigos y elévemos la vara juntos! 🚀

Gracias 🙌🏻