Vai al contenuto principale
10-TRA Avanzato

Cosa sanno fare davvero gli LLM: convinzioni, evidenze, modelli mentali

Un corso per capire che cosa sanno fare davvero i modelli linguistici su cui si basano ChatGPT, Claude, Gemini e gli altri assistenti: sei convinzioni diffuse messe alla prova con i meccanismi che spiegano il loro comportamento e con gli studi che li misurano. È la seconda parte di un percorso in due corsi iniziato con «Come funzionano davvero gli LLM», di cui riprende concetti come token, addestramento e finestra di contesto, e si rivolge a chi usa già un assistente AI e vuole capire perché risponde in un certo modo.

Il corso è diviso in sei moduli, con video, letture ed esercizi. Dopo un primo modulo sul metodo, ogni modulo affronta una convinzione con lo stesso schema: da dove nasce, il meccanismo che c'è dietro, una prova e una conclusione. Si parte da come il modello legge e ragiona, con il meccanismo dell'attenzione, poi si passa al sistema che gli porta informazioni dal web e dai documenti, alla memoria, agli strumenti e agli agenti che gli permettono di agire, e infine a perché si rivolge a noi in modo così accomodante e a chi risponde di quello che scrive. Alcuni meccanismi richiedono un po' di attenzione, ma ogni video si segue anche da solo e puoi procedere al tuo ritmo, in più sedute.

Obiettivi del corso

Al termine del corso sarai in grado di:

  • spiegare come il meccanismo dell'attenzione e l'addestramento al ragionamento influenzano una risposta;
  • distinguere il modello dal sistema che gli fornisce informazioni, memoria e strumenti;
  • riconoscere i limiti del recupero dai documenti e i rischi delle istruzioni nascoste negli agenti;
  • formulare richieste che riducono la compiacenza e verificare le risposte su fonti esterne;
  • individuare chi risponde di un testo prodotto con l'AI.

Attestato di partecipazione

Completando tutte le attività del corso potrai scaricare il tuo attestato.

Prerequisiti consigliati

Modulo 1: Il metodo 1 contenuti
Video 1.1 - Dalle convinzioni ai meccanismi Video

Prima di entrare nei meccanismi, il docente presenta le sei convinzioni che il corso mette alla prova e il metodo con cui lo fa.

Modulo 2: Leggere e ragionare 6 contenuti
Video 2.1 - Il meccanismo: come il modello legge, l'attenzione Video

Quasi tutto quello che vedrai nel corso discende da come il modello pesa le informazioni che ha davanti. Il video introduce questo meccanismo, l'attenzione.

Lettura: Le cinque conseguenze dell'attenzione Lettura
Video 2.2 - Il meccanismo: come il modello impara a ragionare Video

Alcuni modelli, prima di rispondere, scrivono dei passaggi intermedi. Il video spiega come hanno imparato a farlo e dove questo non basta.

Lettura: Chi verifica il ragionamento Lettura
Video 2.3 - Alla prova: “sono pappagalli che ripetono, non ragionano” Video

«Sono solo pappagalli statistici» è la convinzione più diffusa sui modelli linguistici. Il video la mette alla prova e propone una domanda più utile.

Mettiti alla prova: Leggere e ragionare Esercizio
Modulo 3: Recuperare 4 contenuti
Video 3.1 - Il meccanismo: il sistema attorno al modello, ricerca web e RAG Video

Un modello non conosce il regolamento del tuo comune né le notizie di oggi. Il video mostra come il sistema attorno al modello gli porta le informazioni che mancano.

Lettura: Che cosa chiedere su un assistente basato sui documenti Lettura
Video 3.2 - Alla prova: “sono fermi al loro addestramento” e “con i documenti giusti non sbagliano più” Video

Due convinzioni diffuse nelle organizzazioni: i modelli sono fermi al loro addestramento e, con i documenti giusti, non sbagliano più. Il video le mette alla prova entrambe.

Mettiti alla prova: Recuperare Esercizio
Modulo 4: Ricordare 3 contenuti
Video 4.1 - Il meccanismo: finestra, compattazione, memoria persistente Video

Gli assistenti sembrano ricordarsi di te anche se il modello non ricorda nulla. Il video separa quello che fa il modello da quello che fa il sistema.

Video 4.2 - Alla prova: “non hanno memoria” Video

Il video verifica che cosa c'è di vero nella convinzione che i modelli non abbiano memoria e che cosa cambia nel modo di usare un assistente.

Lettura: Come ripartire da una conversazione nuova Lettura
Modulo 5: Agire 5 contenuti
Video 5.1 - Il meccanismo: strumenti, ciclo dell'agente, istruzioni nascoste Video

Il video mostra come un modello che scrive solo testo arriva a consultare un calendario e a inviare email, partendo da una calcolatrice, e quali rischi nascono quando può agire.

Lettura: L'affidabilità di un compito in più passaggi Lettura
Video 5.2 - Alla prova: “rispondono e basta: non possono agire” Video

Il video mette alla prova la convinzione che i modelli rispondano e basta, con i risultati di un'azienda simulata in cui gli agenti lavorano come impiegati.

Lettura: Dove agiscono i freni di un agente Lettura
Mettiti alla prova: Agire Esercizio
Modulo 6: Rispondere 4 contenuti
Video 6.1 - Il meccanismo: il personaggio, la compiacenza, la calibrazione, la responsabilità Video

Gli assistenti sono quasi sempre gentili e d'accordo con te. Il video spiega da dove viene questo comportamento e perché conta.

Lettura: Domande che invitano all'accordo e domande neutre Lettura
Video 6.2 - Alla prova: “parlarci è come parlare con una persona”, la responsabilità, e cosa ne pensano gli studiosi Video

L'ultima convinzione, e la più rischiosa: parlare con un modello è come parlare con una persona. Il video la mette alla prova e chiude con le posizioni degli studiosi.

Lettura: Chi risponde di un testo scritto con l'AI Lettura
Chiusura 5 contenuti
Mettiti alla prova: Verifica finale Esercizio
Valuta il corso Questionario
Complimenti! E ora? Lettura
Lettura: Per approfondire Lettura
Glossario Glossario

Le voci di questo glossario compaiono evidenziate nelle pagine del corso: cliccando il termine si apre la definizione, senza uscire dalla lettura.