Costruire conoscenza con l’IA
Agentic Epistemics: studiare le evidenze, il giudizio e l’apprendimento duraturo.
Un modello di IA scrive un software e spiega perché funziona. Un altro concorda. Quali buone ragioni abbiamo per fidarci di quel software? Se un test successivo rivela un errore, come facciamo a garantire che la persona o l’agente che verrà dopo ne tragga insegnamento?
CounterProof Research si chiede: come possono le persone e l’IA costruire conoscenza e sistemi utili che restino aperti alle evidenze e alla correzione?
Agentic Epistemics è il nostro programma di epistemologia applicata e sociale dedicato al lavoro con gli agenti di IA. Studia come persone, modelli, strumenti e pratiche istituzionali possano sostenere decisioni giustificate e un apprendimento duraturo.
Il nostro primo campo di applicazione è l’ingegneria del software: decidere che cosa meriti di essere costruito, esaminare i progetti, scrivere e revisionare il codice e imparare dagli insuccessi. La responsabilità umana attraversa tutto questo lavoro, comprese le decisioni su quali evidenze siano sufficienti e su quando procedere.
Dalla critica alla costruzione
CounterProof esamina affermazioni e lavori mediante una revisione avversariale. PreProof è il versante costruttivo della nostra ricerca: sviluppare modi per portare gli insegnamenti della revisione nelle decisioni e nelle verifiche che precedono e accompagnano lo sviluppo. A volte la decisione giusta è semplificare, rimandare o fermarsi.
Un resoconto fedele può descrivere un progetto difettoso. Distinguiamo quindi tra l’accuratezza del resoconto, le evidenze sul comportamento del software e le ragioni per credere che serva allo scopo previsto. Una documentazione migliore e più revisori non dimostrano, da soli, una migliore ingegneria. Resta da verificare se i metodi che proponiamo migliorino i risultati a un costo accettabile.
Tre filoni di ricerca all’interno di Agentic Epistemics
Da dove proviene un’affermazione e che cosa ci dice l’accordo tra modelli?
La stemmatica studia come i testi discendano da testi precedenti. Attingendo a questa tradizione filologica, il nostro programma esamina la trasmissione e le relazioni tra testi generati dall’IA e modelli. Si chiede quando risposte simili forniscano una corroborazione utile, quando possano riflettere fonti o errori condivisi e quali evidenze giustificherebbero un’inferenza di discendenza.
Documento di lavoro disponibile
Che cosa porta a credere un resoconto a chi lo legge?
Un rapporto può citare accuratamente le proprie fonti e al tempo stesso omettere una correzione che cambia la conclusione. Questo programma proposto esamina come la selezione, l’enfasi e le relazioni tra le evidenze plasmino un resoconto, ammettendo che più resoconti diversi possano essere ragionevoli.
Articolo in preparazione · Bozza in corso di stesura
Come può l’apprendimento utile sopravvivere al passaggio a un altro agente, a un’altra sessione o a un altro modello?
Questo programma proposto studia le regole, le biblioteche, gli strumenti e le decisioni umane attraverso cui un’organizzazione lavora con l’IA. Si chiede se tali assetti trasferiscano le correzioni giustificate al lavoro successivo, portino alla luce gli errori ereditati e mantengano le pratiche consolidate aperte alla critica.
Articolo in preparazione · Ricerca in fase preparatoria
I programmi condividono domande e materiali, ma ciascuno deve dimostrare il proprio valore. Un risultato sulla trasmissione testuale non dimostrerebbe, da solo, che un rapporto è adeguato o che un’istituzione apprende bene.
Attraverso PreProof, intendiamo trasferire i risultati utili di questa ricerca nella progettazione e nella realizzazione del software.
Come affrontiamo il lavoro
Questo programma si fonda sulla ricerca esistente nell’epistemologia dell’IA (EN). Il fatto che un’affermazione sia stata prodotta da un essere umano o da una macchina non ne stabilisce, di per sé, la verità. La fonte, le evidenze e le condizioni di produzione restano rilevanti nel decidere quale peso attribuirle.
Attingiamo alla filologia e alla critica storica delle fonti, alla filosofia della storia e della scienza, e alla ricerca sull’IA, sulla cognizione distribuita e sulla memoria organizzativa. Queste tradizioni ci aiutano a esaminare le evidenze e a formulare le domande. Affermare che un determinato metodo migliori i risultati richiede ulteriori evidenze.
Procediamo per interventi circoscritti: individuare un problema concreto, proporre una modifica limitata, confrontarla con un’alternativa più semplice ed esaminarne il risultato e il costo. Distinguiamo il completamento di una procedura dal raggiungimento del suo scopo. Un metodo deve poter essere rivisto o abbandonato quando le evidenze lo contraddicono.
Una biblioteca può conservare un errore con la stessa fedeltà con cui conserva una correzione. Un’istituzione apprende quando ciò che scopre cambia ciò che fa. Qui contano l’indipendenza e la libertà di critica, compresa la libertà di mettere in discussione le nostre stesse domande, i test e le spiegazioni che preferiamo.
Da dove iniziare
I collegamenti ad articoli, note e saggi riportati di seguito rimandano a pagine in inglese.
Gli articoli introduttivi (EN) offrono un accesso comprensibile alle domande. Gli articoli di ricerca (EN) sviluppano argomentazioni, proposte e limiti. Le nostre note (EN) esaminano domande e casi specifici; i nostri saggi (EN) esplorano le idee più ampie alla base del lavoro.
Il saggio Autori diversi, tradizioni condivise (EN) collega queste questioni attraverso la tradizione orale, la scrittura e le istituzioni che lavorano con l’IA. Conquistata, non ereditata (EN) illustra l’importanza che attribuiamo all’autenticità, all’indipendenza e alla critica.
CounterProof Research è l’attività di ricerca di CounterProof (EN), un’attività commerciale di revisione avversariale di Clavestra Capital Limited (Malta, C 113987). Abbiamo un interesse economico nei metodi che potrebbero avvantaggiare tale attività. I nostri articoli dichiarano le evidenze, i limiti e lo stato della revisione; i programmi futuri descritti qui sono proposte di ricerca.
Traduzione italiana realizzata con Codex (OpenAI) dalla versione inglese del 27 ottobre 2026. In caso di divergenza prevale l’originale inglese. Questa traduzione non è stata sottoposta a una revisione indipendente da parte di un madrelingua. English original.