viernes, 3 de mayo de 2024

¿Qué es GPT?


Son una familia de modelos de redes neuronales que utilizan la arquitectura de transformadores y representan un avance clave en la inteligencia artificial (IA) que impulsa las aplicaciones de IA generativa, como ChatGPT. Los modelos GPT permiten a las aplicaciones crear texto y contenido (imágenes, música y más) de manera similar a como lo haría un ser humano y responder a preguntas de forma conversacional. Organizaciones de todos los sectores utilizan modelos GPT e IA generativa para bots de preguntas y respuestas, resumen de textos, generación de contenidos y búsqueda.

Estas son algunas maneras en las que puede utilizar los modelos GPT:

  • Crear contenido para las redes sociales
  • Editar textos en estilos diferentes
  • Escribir y aprender código
  • Analizar datos
  • Producir materiales de aprendizaje
  • Crear asistentes de voz interactivos

¿Qué es la IA GPT-3?

La IA de Chat GPT-3 es una inteligencia artificial (IA) creada por OpenAI, una empresa con el objetivo de crear tecnologías que mejoren la vida humana. Está diseñada para entender y generar lenguaje natural a partir de preguntas formuladas en inglés básico.

Desde su lanzamiento, GPT-3 ha causado sensación en la comunidad de IA debido a sus capacidades únicas. La historia detrás del desarrollo de GPT-3 comenzó hace varios años cuando OpenAI comenzó a investigar cómo las máquinas podrían aprender el lenguaje natural.

¿Cómo se entrenó GPT-3?

En un artículo de investigación publicado, los investigadores describieron el preentrenamiento generativo como la capacidad de entrenar modelos lingüísticos con datos no etiquetados y lograr una predicción precisa. El primer modelo GPT, el GPT-1, se desarrolló en 2018. El GPT-4 se introdujo en marzo de 2023 como sucesor del GPT-3.

El GPT-3 se entrenó con más de 175 mil millones de parámetros o pesos. Los ingenieros lo entrenaron con más de 45 terabytes de datos de fuentes como textos web, Common Crawl, libros y Wikipedia. Antes del entrenamiento, la calidad promedio de los conjuntos de datos mejoró a medida que el modelo maduraba de la versión 1 a la versión 3. 

El GPT-3 se entrenó en modo semisupervisado. En primer lugar, los ingenieros de machine learning alimentaron el modelo de aprendizaje profundo con los datos del entrenamiento sin etiquetar. El GPT-3 entendía las oraciones, las dividía y las reconstruía para formar unidades nuevas. En un entrenamiento sin supervisión, el GPT-3 intentó producir resultados precisos y realistas por sí mismo. Luego, los ingenieros de machine learning afinaron los resultados del entrenamiento supervisado, un proceso conocido como aprendizaje por refuerzo con retroalimentación humana (RLHF).Ref (https://cecomart.com/que-es-gpt-3-y-como-usarlo/) 



Autores: 👌👌👌👌Jeferson Daniel Gallego Agudelo
                                        Miguel Angel Robles Barragan
                                        Cristian Albeiro Rodriguez Aguirre
                                        Claudia Liliana Piedrahita Castaño 

No hay comentarios:

Publicar un comentario

¿Qué es GPT?

Son una familia de modelos de redes neuronales que utilizan la arquitectura de transformadores y representan un avance clave en la inteligen...