Introduzione alla filosofia e architettura dei sistemi AI-driven
Questo libro è stato scritto con il supporto di strumenti di intelligenza artificiale per la ricerca, la strutturazione dei contenuti e la revisione. L'esperienza, le metodologie e gli insight strategici sono frutto del lavoro pratico dell'autore, mentre l'AI ha assistito nel processo di scrittura e organizzazione delle idee.
Per sfruttare al meglio questo libro, è consigliabile avere familiarità con i seguenti concetti e tecnologie:
Nel 2015, Google pubblicò un paper profetico, "Hidden Technical Debt in Machine Learning", mostrando come in un'applicazione ML, il codice di machine learning fosse solo una piccola scatola nera al centro di un'enorme e complessa infrastruttura.
Dieci anni dopo, la storia si ripete. L'industria è innamorata della promessa degli agenti AI: una semplice "scatola magica" in cui inserire un obiettivo e da cui estrarre valore. Ma chiunque abbia provato a costruire un'applicazione reale sa la verità. Come scrive Tomasz Tunguz, "Ciò che appariva come una semplice 'scatola magica AI' si rivela essere un iceberg, con la maggior parte del lavoro di ingegneria nascosto sotto la superficie."
Quell'iceberg sommerso è fatto di gestione del contesto, orchestrazione di tool, sistemi di memoria, information retrieval (RAG), guardrail di sicurezza, monitoraggio e, soprattutto, la gestione dei costi galoppanti delle API.
Non troverete qui un altro tutorial su come fare una chiamata a un'API. Questo è un case study strategico su come abbiamo costruito l'infrastruttura nascosta, il 90% del lavoro che permette al 10% di "magia AI" di funzionare in modo affidabile e scalabile.
Abbiamo capito che per gestire agenti non-deterministici, che improvvisano e hanno "libertà creativa", non serve un tool migliore. Serve un'organizzazione migliore, replicata nel codice. In questi capitoli, scoprirete come abbiamo costruito:
Director) che "assume" team su misura.Executor) che orchestra il lavoro.HolisticQualityAssuranceAgent) che valuta il valore di business.WorkspaceMemory) che permette all'organizzazione di imparare.Abbiamo costruito un "Agente Manager": un sistema operativo AI che gestisce altri agenti, risolvendo il problema della complessità e del debito tecnico alla radice. Questo manuale è la storia di come ci siamo riusciti, pieno delle nostre cicatrici e delle lezioni che abbiamo imparato. È la guida per chiunque voglia smettere di giocare con la punta dell'iceberg e iniziare a costruire le fondamenta sommerse.