FauxPilot porta in locale l'intelligenza artificiale di GitHub Copilot

Mentre Microsoft e la controllata GitHub hanno appena presentato Copilot X ovvero una versione ulteriormente migliorata della tecnologia che permette di generare codice con qualunque linguaggio di programmazione partendo da una descrizione testuale, si stanno facendo strada anche soluzioni alternative che mirano a spostare l’elaborazione in locale, senza trasmettere alcun dato su server remoti.

Se Copilot X è ancora in versione di anteprima, GitHub Copilot è attualmente utilizzato da milioni di sviluppatori in tutto il mondo tanto che circa il 46% del codice ospitato sul servizio di hosting per progetti software è sviluppato proprio con questo strumento con una percentuale che arriva addirittura al 61% nel caso di Java.

Da qualche tempo, però, esiste anche un’alternativa: si chiama FauxPilot ed è stata sviluppata da Brendan Dolan-Gavitt, assistente docente presso il dipartimento di informatica e ingegneria presso la NYU Tandon School of Engineering (Stati Uniti).

Pubblicato su GitHub, sposta in locale tutte le elaborazioni che fa Copilot lato server.
Mentre Copilot usa il modello generativo di OpenAI, FauxPilot si appoggia a CodeGen di SalesForce.

L’obiettivo principale di FauxPilot è fornire un modo per eseguire un software per la generazione di codice basato sull’intelligenza artificiale on-premise ovvero in locale, all’interno della propria infrastruttura.

Come spiega l’autore del progetto, FauxPilot si basa su Docker e necessita di almeno una GPU NVidia sufficientemente potente (dotazione di VRAM necessaria per caricare e gestire il modello preferito dall’utente).

Lavorare con strumenti come Copilot è utile per ridurre il carico di lavoro ed evitare di perdere tempo nello sviluppo di routine che gestiscono operazioni ricorrenti o attività piuttosto comuni. Il codice realizzato da Copilot deve essere comunque verificato e ricontrollato con attenzione: spesso, però, è più utile sistemare qualcosa di già pronto piuttosto che ricrearlo da zero.

La sfida, come sottolinea l’ideatore di FauxPilot, è addestrare modelli di codice che, si spera, producano un codice più sicuro. Anche perché non abbiamo a disposizione modi infallibili per accertare che il codice generato sia privo di bug.