Cosa sanno fare davvero gli LLM: convinzioni, evidenze, modelli mentali
Cosa sanno fare davvero gli LLM: convinzioni, evidenze, modelli mentali
Un corso per capire che cosa sanno fare davvero i modelli linguistici su cui si basano ChatGPT, Claude, Gemini e gli altri assistenti: sei convinzioni diffuse messe alla prova con i meccanismi che spiegano il loro comportamento e con gli studi che li misurano. È la seconda parte di un percorso in due corsi iniziato con «Come funzionano davvero gli LLM», di cui riprende concetti come token, addestramento e finestra di contesto, e si rivolge a chi usa già un assistente AI e vuole capire perché risponde in un certo modo.
Il corso è diviso in sei moduli, con video, letture ed esercizi. Dopo un primo modulo sul metodo, ogni modulo affronta una convinzione con lo stesso schema: da dove nasce, il meccanismo che c'è dietro, una prova e una conclusione. Si parte da come il modello legge e ragiona, con il meccanismo dell'attenzione, poi si passa al sistema che gli porta informazioni dal web e dai documenti, alla memoria, agli strumenti e agli agenti che gli permettono di agire, e infine a perché si rivolge a noi in modo così accomodante e a chi risponde di quello che scrive. Alcuni meccanismi richiedono un po' di attenzione, ma ogni video si segue anche da solo e puoi procedere al tuo ritmo, in più sedute.
Obiettivi del corso
Al termine del corso sarai in grado di:
- spiegare come il meccanismo dell'attenzione e l'addestramento al ragionamento influenzano una risposta;
- distinguere il modello dal sistema che gli fornisce informazioni, memoria e strumenti;
- riconoscere i limiti del recupero dai documenti e i rischi delle istruzioni nascoste negli agenti;
- formulare richieste che riducono la compiacenza e verificare le risposte su fonti esterne;
- individuare chi risponde di un testo prodotto con l'AI.
Attestato di partecipazione
Completando tutte le attività del corso potrai scaricare il tuo attestato.
Prerequisiti consigliati
Modulo 1: Il metodo
Video 1.1 - Dalle convinzioni ai meccanismi
Prima di entrare nei meccanismi, il docente presenta le sei convinzioni che il corso mette alla prova e il metodo con cui lo fa.
Modulo 2: Leggere e ragionare
Video 2.1 - Il meccanismo: come il modello legge, l'attenzione
Quasi tutto quello che vedrai nel corso discende da come il modello pesa le informazioni che ha davanti. Il video introduce questo meccanismo, l'attenzione.
Video 2.2 - Il meccanismo: come il modello impara a ragionare
Alcuni modelli, prima di rispondere, scrivono dei passaggi intermedi. Il video spiega come hanno imparato a farlo e dove questo non basta.
Video 2.3 - Alla prova: “sono pappagalli che ripetono, non ragionano”
«Sono solo pappagalli statistici» è la convinzione più diffusa sui modelli linguistici. Il video la mette alla prova e propone una domanda più utile.
Modulo 3: Recuperare
Video 3.1 - Il meccanismo: il sistema attorno al modello, ricerca web e RAG
Un modello non conosce il regolamento del tuo comune né le notizie di oggi. Il video mostra come il sistema attorno al modello gli porta le informazioni che mancano.
Video 3.2 - Alla prova: “sono fermi al loro addestramento” e “con i documenti giusti non sbagliano più”
Due convinzioni diffuse nelle organizzazioni: i modelli sono fermi al loro addestramento e, con i documenti giusti, non sbagliano più. Il video le mette alla prova entrambe.
Modulo 4: Ricordare
Video 4.1 - Il meccanismo: finestra, compattazione, memoria persistente
Gli assistenti sembrano ricordarsi di te anche se il modello non ricorda nulla. Il video separa quello che fa il modello da quello che fa il sistema.
Video 4.2 - Alla prova: “non hanno memoria”
Il video verifica che cosa c'è di vero nella convinzione che i modelli non abbiano memoria e che cosa cambia nel modo di usare un assistente.
Modulo 5: Agire
Video 5.1 - Il meccanismo: strumenti, ciclo dell'agente, istruzioni nascoste
Il video mostra come un modello che scrive solo testo arriva a consultare un calendario e a inviare email, partendo da una calcolatrice, e quali rischi nascono quando può agire.
Video 5.2 - Alla prova: “rispondono e basta: non possono agire”
Il video mette alla prova la convinzione che i modelli rispondano e basta, con i risultati di un'azienda simulata in cui gli agenti lavorano come impiegati.
Modulo 6: Rispondere
Video 6.1 - Il meccanismo: il personaggio, la compiacenza, la calibrazione, la responsabilità
Gli assistenti sono quasi sempre gentili e d'accordo con te. Il video spiega da dove viene questo comportamento e perché conta.
Video 6.2 - Alla prova: “parlarci è come parlare con una persona”, la responsabilità, e cosa ne pensano gli studiosi
L'ultima convinzione, e la più rischiosa: parlare con un modello è come parlare con una persona. Il video la mette alla prova e chiude con le posizioni degli studiosi.
Chiusura
Glossario
Le voci di questo glossario compaiono evidenziate nelle pagine del corso: cliccando il termine si apre la definizione, senza uscire dalla lettura.