Che cos'è LangChain? - IBM

LangChain è un framework di orchestrazione open source per lo sviluppo di applicazioni che utilizzano modelli linguistici di grandi dimensioni (LLM). Gli strumenti e le API di LangChain sono disponibili nelle librerie basate su Python e JavaScript e semplificano il processo di sviluppo di applicazioni basate su LLM come chatbot e agenti AI.

Caratteristiche principali

LangChain funge da interfaccia generica per quasi tutti gli LLM, fornendo un ambiente di sviluppo centralizzato per creare applicazioni LLM e integrarle con fonti di dati esterne e workflow di software. L'approccio di LangChain basato sui moduli consente agli sviluppatori e ai data scientist di confrontare in modo dinamico diversi prompt e anche vari foundation model senza dover riscrivere il codice.

• Accessibilità di strumenti open source
• Integrazione con molteplici modelli linguistici
• Modularità per la personalizzazione

Storia e crescita

Lanciato da Harrison Chase ad ottobre 2022, LangChain ha visto un'ascesa rapidissima: a giugno 2023 era il progetto open source in più rapida crescita su Github. In concomitanza con l'importante lancio di ChatGPT di OpenAI del mese successivo, LangChain ha svolto un ruolo determinante nel rendere l'AI generativa (genAI) più accessibile agli appassionati e alle startup, sulla scia della sua grande popolarità.

Casi d'uso

LangChain può semplificare la maggior parte dei casi d'uso per gli LLM e l'elaborazione del linguaggio naturale (NLP), come chatbot, ricerca intelligente, risposta alle domande, riepilogo dei servizi o persino agenti AI capaci di attuare la Robotic Process Automation.

Esempi di applicazioni

• Chatbot basati su LangChain
• Agenti AI per l’automazione
• Sistemi di ricerca avanzata
• Generazione automatica di testi

Queste soluzioni permettono non solo di automatizzare attività ripetitive ma anche di creare servizi interattivi con l'utente.

Integrazioni con gli LLM

Gli LLM non sono applicazioni autonome: sono modelli statistici pre-addestrati che devono essere abbinati a un'applicazione (e, in alcuni casi, a fonti di dati specifiche) per raggiungere il loro scopo. Ad esempio, Chat-GPT non è un LLM: è un'applicazione chatbot che, a seconda della versione scelta, utilizza il modello linguistico GPT-3.5 o GPT-4.

Inoltre, anche se i foundation model (come quelli per gli LLM) sono pre-addestrati sulla base di enormi set di dati, non sono onniscienti. Se una particolare attività richiede l'accesso a informazioni contestuali specifiche, come la documentazione interna o la competenza nell'ambito, gli LLM devono essere collegati a queste fonti di dati esterne.

Grazie a framework come LangChain, non solo puoi integrare LLM in applicazioni con API, ma puoi anche sperimentare diversi modelli per confrontare i risultati in modo semplice e con minime modifiche al codice.

Funzionamento di LangChain

Al centro di LangChain c'è un ambiente di sviluppo che facilita la programmazione delle applicazioni LLM con l'uso dell'astrazione: la semplificazione del codice mediante la rappresentazione di uno o più processi complessi sotto forma di un componente denominato che racchiude tutti i suoi passaggi costitutivi.

Esempio di astrazione

LangChain è una libreria di astrazioni per Python e JavaScript, che rappresenta i passaggi e i concetti comuni necessari per lavorare con i modelli linguistici. Questi componenti modulari, come le funzioni e le classi di oggetti, fungono da elementi costitutivi dei programmi di AI generativa.

Il vantaggio dell'approccio astratto di LangChain è che consente agli sviluppatori di ridurre la quantità di codice necessaria per sviluppare funzionalità avanzate, rendendolo accessibile anche a chi non ha esperienza profonda in intelligenza artificiale.

Importazione di modelli linguistici

LangChain ti permette di utilizzare quasi tutti gli LLM disponibili. Per importare un modello linguistico su LangChain, la procedura richiede soltanto una chiave API. Per l’uso di modelli proprietari, come quelli offerti da OpenAI o Anthropic, potrebbe essere richiesto il pagamento di royalty. I modelli open source però sono accessibili gratuitamente. Per esempio, modelli come Deepseek-LLM, Granite e Flan-T5 sono accessibili tramite Hugging Face.

Grazie alla partnership con Hugging Face, IBM watsonx offre una suite di strumenti e modelli aggiuntivi integrati con LangChain. Se crei un account su Hugging Face o IBM watsonx, potrai generare una chiave API per uno qualsiasi dei modelli offerti, utilizzando la classe WatsonXLLM.

Modelli di prompt

I prompt sono le istruzioni fornite a un LLM. Il "prompt engineering" è un aspetto fondamentale per il funzionamento degli LLM. LangChain supporta il prompt engineering grazie alla classe PromptTemplate, che formalizza la composizione dei prompt.

Struttura di un prompt

• Input Variables: gli elementi necessari all’input
• Contesto: informazioni contestuali
• Istruzioni: come strutturare l’output

Un modello di prompt può anche comprendere esempi, un formato di output specifico o una domanda standardizzata a cui rispondere. Queste funzionalità possono essere utili negli scenari di generazione "few-shot" dove l'utente fornisce alcune domande di esempio per guidare l'LLM.

Catene

LangChain introduce il concetto di "chain", ovvero una sequenza di modelli o funzioni predefinite, utili per creare workflow completi. Le catene di LangChain semplificano la creazione di applicazioni complesse con un codice ridotto e ben strutturato.

Con l’aiuto delle catene è possibile costruire applicazioni LLM per diverse funzionalità come la risposta alle domande, la generazione di testi o l'elaborazione di dati, combinando modelli linguistici e fonti esterne in modo flessibile.