Cómo construir un chatbot LLM local de código abierto con RAG por el Dr. Leon Eversberg
Así que si quieres crear un chatbot de IA privado sin conectarte a Internet ni pagar dinero por el acceso a la API, esta guía es para ti. PrivateGPT es un nuevo proyecto de código abierto que te permite interactuar con tus documentos de forma privada en una interfaz de chatbot de IA. Para saber más, vamos a aprender cómo entrenar un chatbot de IA personalizado utilizando PrivateGPT localmente.
Para desplegarla, simplemente navega hasta tu pestaña Azure en VScode y desplázate hasta la ventana de funciones. Por último, elige un nombre para la carpeta que contiene tu App de Función sin servidor y pulsa intro. Ahora tenemos que instalar unas cuantas extensiones que nos ayudarán a crear una Function App y empujarla a Azure, concretamente queremos Azure CLI Tools y Azure Functions. En este punto, crearemos el back-end con el que interactuará nuestro bot. Hay múltiples formas de hacerlo, puedes crear una API en Flask, Django o cualquier otro framework.
Pyrogram es un framework de Python que permite a los desarrolladores interactuar con la API de bots de Telegram. Simplifica el proceso de creación de un bot proporcionando una serie de herramientas y funciones. Con estas herramientas, los desarrolladores pueden crear comandos personalizados, gestionar las entradas de los usuarios e integrar la API ChatGPT para generar respuestas. La investigación en PNL siempre se ha centrado en hacer que los chatbots sean cada vez más inteligentes.
Configurar un entorno virtual es una decisión inteligente antes de sumergirse en la instalación de bibliotecas. Garantiza que las dependencias de tu proyecto no choquen con tu configuración principal de Python. Antes de sumergirte en la creación de un chatbot de IA potenciado por ChatGPT, hay algunas herramientas esenciales que necesitarás para poner en marcha tu entorno.
Por tanto, incorporamos estos dos paquetes junto a LangChain durante la instalación. Los modelos de IA, como los Grandes Modelos Lingüísticos (LLM), generan incrustaciones con numerosas características, lo que hace que su representación sea intrincada. Estas incrustaciones delinean varias dimensiones de los datos, facilitando la comprensión de diversas relaciones, patrones y estructuras latentes. Ambos se extendieron un buen rato hablando de las implicaciones sociales y económicas y de su impacto en la humanidad. Puedes leer todo eso en GitHub, por ahora me centraré en las conclusiones, ya que esa era la principal petición del aviso: si captarán el matiz que pedimos.
Una práctica habitual para almacenar este tipo de tokens sería utilizar algún tipo de archivo oculto del que tu programa extraiga la cadena para que no se envíen a un VCS. Python-dotenv es un paquete popular que hace esto por nosotros. Vamos a instalar este paquete para asegurar nuestro token. A continuación, haz clic en el botón «Instalar» de la esquina inferior derecha.
Al principio, debemos definir la interfaz remota que determina los métodos invocables remotamente para cada nodo. Por un lado, tenemos los métodos que devuelven información relevante a efectos de depuración (log() u getIP()). Por otro lado, están los encargados de obtener referencias remotas a otros nodos y registrarlas en la jerarquía local como nodo ascendente o descendente, utilizando un nombre que supondremos único para cada nodo. Además, dispone de otras dos primitivas destinadas a recibir una consulta entrante de otro nodo (receiveMessage()) y a enviar una consulta resuelta a la API (sendMessagePython()), sólo ejecutadas en el nodo raíz. Con la API operativa, procederemos a implementar el sistema de nodos en Java. La razón principal para elegir este lenguaje está motivada por la tecnología que nos permite comunicarnos entre nodos.
He realizado bastantes pasos y también he aprendido bastante de esta experiencia. InstructPix2Pix, un modelo de difusión condicional, combina un modelo de lenguaje GPT-3 y un modelo de texto a imagen de Difusión Estable para realizar ediciones de imagen basadas en las indicaciones del usuario. Inspirados por el proyecto InstructPix2Pix y varias aplicaciones alojadas en HuggingFace, estamos interesados en crear un chatbot de edición de imágenes con IA en Panel. Panel es una herramienta de Python que nos permite construir este chatbot con sólo unas pocas líneas de código.
Agilizan el proceso de búsqueda, garantizando un alto rendimiento, escalabilidad y una recuperación eficaz de los datos mediante la comparación de valores y la identificación de similitudes. Es un impresionante modelo de nueva generación entrenado para ser verdaderamente multimodal desde cero. Su problema no es lo que es capaz de hacer, sino lo que OpenAI ha hecho para limitar sus capacidades.
En este artículo, mostraré cómo aprovechar las herramientas preentrenadas para construir un Chatbot que utilice Inteligencia Artificial y Reconocimiento del Habla, es decir, una IA parlante. Aunque casi todas las herramientas y paquetes necesarios para configurar y utilizar ChatGPT son gratuitos, obtener la clave de la API tiene un coste. OpenAI no ofrece la API de ChatGPT de forma gratuita, así que tendrás que tener en cuenta este gasto a la hora de planificar tu proyecto. Dirígete a la opción «Archivo» del menú superior y haz clic en «Guardar como…». Ahora, bautiza tu archivo como «chatbot.py» y en «Guardar como tipo», elige «Todos los tipos». Elige una ubicación conveniente en tu disco duro para guardar el archivo (por ejemplo, el Escritorio). Una vez descargado, ejecuta el instalador y deja que te guíe por el proceso de instalación.
En consecuencia, bind recibirá un MarshalledObject compuesto por el nodo que se está registrando en el servidor, en lugar de la instancia original del nodo. A partir de la interfaz, podemos implementar sus operaciones dentro de la clase nodo, instanciada cada vez que arranquemos el sistema y decidamos añadir una nueva máquina al árbol de nodos. Entre las principales funciones incluidas en la clase nodo está el método getRemoteNode(), que obtiene una referencia remota a otro nodo a partir de su nombre. Para ello, accede al registro de nombres y ejecuta la primitiva lookup(), devolviendo la referencia remota en forma de interfaz, si está registrada, o nula en caso contrario.
Más tarde ese mismo día, después de mi tiempo muerto, volví a abrir la página web de Quirk Chevy e intenté crear un mensaje que dejara a la I.A. del concesionario. Quirk Chevrolet de Braintree, Massachusetts, no es una compañera de conversación tan flexible como la I.A. Susan Atkins, fue una presencia semanal durante los playoffs de la NFL del año pasado, en los que acertó tres de los siete partidos,1 incluida la victoria de los Chiefs en la Super Bowl.
Aparte de eso, puedes crear contenido de vídeo en torno a acontecimientos de actualidad y monetizar el contenido. Por ejemplo, los vídeos de reacciones son populares en YouTube, y en particular, a la gente le gusta ver vídeos de reacciones en formato Shorts (la duración del clip debe ser inferior a 60 segundos). Con estas ideas de contenido de nicho y la ayuda de ChatGPT, puedes ganar mucho dinero. Hay muchos nichos y subnichos en Internet que aún están por explorar. Puedes pedir a ChatGPT que te proponga ideas para vídeos en una categoría concreta.
Esta decisión está motivada por la gran escalabilidad y facilidad de integración con otras dependencias de Python que ofrece este framework, además de otras propiedades útiles como la seguridad o el panel de administración por defecto. Te proporcionaremos un código de proyecto completo en el que se describe cada paso y que te permitirá empezar. Este código se puede modificar para adaptarlo a tus requisitos particulares y utilizarlo como base para un chatbot.
Puedes cambiar el nombre según tus preferencias, pero asegúrate de que se añade .py. Asegúrate de sustituir el texto «Tu clave API» por tu propia clave API generada anteriormente. De nuevo, puede que tengas que utilizar python3 y pip3 en Linux u otras plataformas. Para comprobar si Python está correctamente instalado, abre Terminal en tu ordenador. Yo estoy utilizando el Terminal de Windows en Windows, pero también puedes utilizar el Símbolo del sistema.
Estos pasajes recuperados funcionan como contexto o conocimiento para el modelo de generación. Aparte de la creación de prototipos, una aplicación importante de servir a un chatbot en Shiny puede ser responder a preguntas sobre la documentación que hay detrás de los campos del cuadro de mando. Por ejemplo, si un usuario del cuadro de mando quiere saber cómo se creó la métrica de rotación del gráfico. Tener un chatbot dentro de la aplicación Shiny permite al usuario hacer la pregunta utilizando lenguaje natural y obtener la respuesta directamente, en lugar de pasar por un montón de documentación. Dentro de unos días, daré una charla sobre IA Generativa en la próxima conferencia Cascadia Data Science. Para la charla, quería personalizar algo para la conferencia, así que creé un chatbot que responde a preguntas sobre la agenda de la conferencia.
Para construir un chatbot de IA con una base de conocimientos adecuada, tendrías que sumergirte en redes de palabras y aprender sobre serialización de datos, lo que está mucho más allá de lo que queremos hacer aquí. Sin embargo, si quieres hacer un chatbot más funcional, hay muchos recursos que pueden enseñarte lo que necesitas saber. Como siempre, este código está disponible en mi GitHub para su descarga o comentarios. Puede que te hayas dado cuenta de que hemos añadido algunas palabras clave de «descarga» allí.
Esta sinergia permite realizar sofisticados análisis y modelos de datos financieros, impulsando avances transformadores en el análisis financiero y la toma de decisiones impulsados por la IA. El agente pandas_dataframe es más versátil y adecuado para tareas avanzadas de análisis de datos, mientras que el agente csv está más especializado para trabajar con archivos CSV. A partir de la salida, el agente recibe la tarea como entrada, e inicia el pensamiento al conocer de qué trata la tarea. Pasa a la siguiente acción, es decir, a ejecutar un comando REPL de Python (que consiste en trabajar interactivamente con el intérprete de Python) que calcula la relación entre pasajeros supervivientes y pasajeros totales.
Una vez aquí, ejecuta el comando que aparece a continuación, y te mostrará la versión de Python. En Linux u otras plataformas, puede que tengas que utilizar python3 –version en lugar de python –version. Abre este enlace y descarga el archivo de instalación para tu plataforma. Para crear un chatbot de IA, no necesitas un ordenador potente con una CPU o GPU potentes.
Estas líneas importan la API de Discord, crean el objeto Cliente que nos permite dictar lo que puede hacer el bot y, por último, ejecutan el bot con nuestro token. Hablando del token, para obtener el token de tu bot, sólo tienes que ir a la página del bot dentro del portal del desarrollador de Discord y hacer clic en el botón «Copiar». En mi ordenador de sobremesa Intel de 10ª generación i3, tardó cerca de 2 minutos en responder a una consulta.
De hecho, la coherencia entre la respuesta de LangChain y la validación de Pandas confirma la precisión de la consulta. Sin embargo, el empleo de bases de datos escalares tradicionales para la incrustación vectorial plantea un reto, dada su incapacidad para manejar la escala y la complejidad de los datos. Los entresijos inherentes a la incrustación vectorial subrayan la necesidad de bases de datos especializadas adaptadas para acomodar dicha complejidad, dando lugar así a las bases de datos vectoriales. Las bases de datos vectoriales son un componente importante de la RAG y son un gran concepto que hay que comprender, vamos a entenderlo en la siguiente sección. OpenAI tiene un problema similar con Sora, la plataforma de vídeo de IA. Cuando se anunció en febrero estaba a pasos agigantados por encima de cualquier otra cosa, pero todos los demás se están poniendo al día y lanzando modelos del nivel de Sora o superiores.
Profesor de Bengaluru escandalizado por el examen de Inteligencia Artificial de la Clase 10: Codifica un simple chatbot para obtener 4 puntos.
Publicado: Wed, 20 Nov 2024 07:54:42 GMT[fuente].
El código llama a una función llamada create_csv_agent para crear un agente CSV. Este agente interactuará con archivos CSV (Valores Separados por Comas), que se utilizan habitualmente para almacenar datos tabulares. Esta línea construye la URL necesaria para acceder a los datos históricos de dividendos de la acción AAPL.
Sin embargo, el algoritmo que seguiremos también servirá para entender por qué se elige una estructura de árbol para conectar los nodos del sistema. Ahora, podemos establecer una red que conecte varios nodos de forma que a través de uno de ellos, conectado al servidor API, se puedan distribuir las consultas por toda la red, aprovechando de forma óptima todos los recursos del sistema. Arriba, podemos observar cómo todos los nodos están conectados estructuralmente en forma de árbol, siendo su raíz la responsable de recoger las consultas a la API y reenviarlas en consecuencia.
Les pedí a ambos que crearan una historia de al menos 2.000 fichas (unas 1.500 palabras) que incluyera al menos dos escenas. Se parecía vagamente a una nave espacial con la palabra «logo» pegada en la mitad superior del cohete. Sin embargo, el Soneto Claude 3.5 lo intensificó aún más, creando un juego más complejo con múltiples torres entre las que elegir, cada una de las cuales costaba una cantidad diferente y aplicaba distintos niveles de daño al enemigo. Para divertirme, pedí a Claude 3.5 sonnet que «añadiera algo de estilo» y me dio unos gráficos más definidos e incluso distintos tipos de enemigos. He puesto ambos conjuntos de código en GitHub para que puedas ejecutarlos por ti mismo. Seguí pidiendo a cada uno que «mejorara el juego» para ver si ChatGPT se ponía al día.
Incluye la URL base de la API junto con el punto final para los datos históricos de dividendos, el símbolo del ticker de la acción (AAPL en este caso) y la clave de la API añadida como parámetro de consulta. He puesto ambos archivos SVG en GitHub para que puedas abrirlos en tu editor de código o en la aplicación SVG que prefieras y comprobar el rendimiento de ambos. Mientras tanto, en la ciudad de Claude se creó alegremente (utilizó la palabra alegremente) el gráfico vectorial y cumplió el encargo a la perfección.
Profundicemos en un ejemplo práctico consultando una base de datos SQLite, centrándonos en el conjunto de datos Árboles de San Francisco. Aunque la perspectiva de utilizar bases de datos vectoriales para abordar las complejidades de las incrustaciones vectoriales parece prometedora, la implementación de dichas bases de datos plantea retos importantes. Las bases de datos vectoriales ofrecen un almacenamiento optimizado y unas capacidades de consulta especialmente adaptadas a la estructura de las incrustaciones vectoriales.
Después, tienes que obtener y copiar tu token pulsando «Click to Reveal Token». Enhorabuena, hemos construido con éxito un chatbot utilizando Python y Flask. No vamos a entender el código HTML y jquery, ya que jquery es un tema muy amplio. En primer lugar, crearemos un archivo HTML llamado index.html dentro de la carpeta de plantillas. Ya hemos instalado Flask en el sistema, así que importaremos los métodos Python que necesitamos para ejecutar el microservidor Flask. Y para Google Colab utiliza el siguiente comando, la mayoría de las veces Flask viene preinstalado en Google Colab.
Puedes entrenar el chatbot de IA en cualquier plataforma, ya sea Windows, macOS, Linux o ChromeOS. En este artículo, estoy utilizando Windows 11, pero los pasos son casi idénticos para otras plataformas. La guía está pensada para usuarios generales, y las instrucciones se explican en un lenguaje sencillo. Así que, aunque tengas un conocimiento superficial de informática y no sepas codificar, puedes entrenar y crear fácilmente un chatbot de IA de preguntas y respuestas en pocos minutos.
La idea detrás de este modelo sustituto es sustituirlo por un enfoque basado en datos utilizando la inteligencia artificial. Si quieres entrenar al chatbot de IA con nuevos datos, borra los archivos de la carpeta «docs» y añade otros nuevos. También puedes añadir varios archivos, pero asegúrate de añadir datos limpios para obtener una respuesta coherente. Puedes hacer más preguntas, y el bot ChatGPT responderá a partir de los datos que hayas proporcionado a la IA. Así es como puedes crear un chatbot de IA entrenado a medida con tu propio conjunto de datos. Ahora puedes entrenar y crear un chatbot de IA basado en cualquier tipo de información que desees.
© Copyright. Tutti i diritti riservati.