Phind cresce: chatbot, motore di ricerca e assistente Visual Studio Code grazie all'IA

A novembre 2023 presentavamo Phind, un modello generativo basato sull’intelligenza artificiale che già allora superava OpenAI GPT-4 nella creazione di codice di programmazione.

Oggi arriva la notizia del rilascio di Phind-70B, un modello linguistico avanzato che dà il meglio di sé nella generazione di codice e nella risoluzione di problemi tecnici ma che, ovviamente, può essere utilizzato per finalità di carattere generale.

La principale caratteristica di Phind-70B è la velocità di esecuzione: elaborando fino a 80 token al secondo, il modello si presenta come quattro volte più veloce rispetto a GPT-4 Turbo.  “Dietro le quinte”, si basa su CodeLlama-70B, ma è stato ulteriormente perfezionato aggiungendo ulteriori 50 miliardi di token. Gli sviluppatori hanno utilizzato la libreria TensorRT-LLM di NVidia su GPU H100, facendo presente che vi sono margini per ulteriori ottimizzazioni utili ad accrescere le performance di Phind-70B.

Phind-70B supporta una context window di dimensioni pari a 32.000 token. Con l’espressione finestra di contesto, ci si riferisce alla quantità di informazioni che un modello di linguaggio tiene in considerazione per generare una risposta o fare un’ipotesi in un dato momento. Una finestra di contesto così ampia (32.000 token) consente al modello di considerare più informazioni passate, in modo da sostenere la generazione di risposte più accurate e coerenti.

Il modello è già disponibile per essere provato gratuitamente senza necessità di registrazione. Sottoscrivendo un piano di abbonamento Phind Pro, gli utenti possono rimuovere tutti i limiti di utilizzo.

Nella nota di presentazione di Phind-70B, l’azienda ringrazia i partner cloud SF Compute e AWS, insieme a Meta e NVidia, per il supporto fornito nell’implementazione e nell’erogazione del modello. Come nota di colore, si conclude rivelando di aver bruciato una GPU H100 durante l’addestramento di Phind-70B, a conferma dell’impegno computazionale del processo.

Come usare Phind

È possibile mettere alla prova le abilità di Phind direttamente da browser Web, sia dai sistemi desktop e notebook che dai dispositivi mobili. Collegandosi con il sito ufficiale del progetto, si trovano due schede: Search e Chat. La prima attiva la ricerca sul Web e l’elaborazione dei risultati ottenuti con l’intelligenza artificiale.

In altre parole, Phind Search consente di rispondere al meglio ai quesiti avanzati dall’utente unendo i risultati provenienti dai contenuti delle pagine Web di volta in volta ritenute più attendibili e affidabili.

Cliccando invece su Chat in alto, si attiva il chatbot ovvero il meccanismo che si basa unicamente sul modello generativo e sul LLM (Large Language Model) precedentemente addestrato per fornire risposte utili e pertinenti. Il chatbot, inoltre, è multicanale (supporta l’uso di immagini a sostegno del testo prodotto in output) e supporta l’avvio di vere e proprie conversazioni sviluppate su continui “botta e risposta”.

Con un clic sull’apposito menu a tendina, è possibile eventualmente optare per l’uso del modello più ridotto, Phind-34B, che al momento non presenta alcun limite in termini di utilizzo.

Michael Royzen, cofondatore e CEO di Phind con precedenti esperienze in Microsoft, Cloudflare, SmartLens e Lyft, fa presente che il suo progetto guarda concretamente al mondo open source. Gli ingegneri di Phind, infatti, si sono impegnati a rilasciare pubblicamente i pesi del modello Phind-34B già nel corso delle prossime settimane. Successivamente, sarà fatto lo stesso anche nel caso di Phind-70B.

Le scorciatoie per usare Phind più velocemente

Posto che Phind si può utilizzare anche dai dispositivi mobili Android e iOS senza installare alcuna app dedicata ma facendo riferimento al sito Web nativo, per interagire con il modello ancora più velocemente sono utili alcune scorciatoie da tastiera:

• / – Permette di accedere alla casella di ricerca
• Cmd/Ctrl+K – Avvia una nuova ricerca
• ESC – Arresta la procedura di generazione della risposta
• Cmd/Ctrl+Enter – posizionandosi sulla casella di ricerca, invia la query a Phind senza effettuare una ricerca sul Web

Collegare Phind con Visual Studio Code per generare codice di programmazione

Abbiamo detto che Phind offre prestazioni eccellenti nella generazione di codice di programmazione. Un po’ come è possibile fare con altri tool, ad esempio GitHub Copilot, si può aggiungere l’estensione ufficiale per Visual Studio Code che consente di gestire direttamente lo sviluppo di qualsiasi applicazione nell’editor Microsoft.

Basta accedere alla pagina Phind, chat with your codebase, cliccare su Install, consentire l’apertura di Visual Studio Code (che deve essere già installato sul sistema) quindi selezionare ancora il pulsante Install e infine Trust Workspace & Install.

Per attivare l’estensione, è necessario cliccare sull’icona di Phind nella colonna di sinistra di Visual Studio Code quindi effettuare il login “una tantum” con un account Google o GitHub. Con un clic su Activate Extension si deve infine autorizzare l’avvio dell’editor Microsoft (Apri Visual Studio Code).

Fornite le autorizzazioni del caso, Phind mostra tutte le istruzioni per dialogare con il chatbot integrato in Visual Studio Code. Il simbolo @, ad esempio, consente di specificare specifici file che compongono il progetto mentre con CTRL+MAIUSC+I si può selezionare un blocco di codice e passarlo a Phind per ottenerne l’analisi, capire come migliorarlo, risolvere un problema o un bug che non si riesce a individuare.

Premendo la combinazione di tasti CTRL+MAIUSC+M si può generare codice in-line. Questo significa che, utilizzando comandi semplici o articolati in linguaggio naturale, usando anche la lingua italiana, si può chiedere a Phind di generare codice in qualunque linguaggio di programmazione.

Cliccando sulle icone che evidenziano errori o avvisi, durante l’attività di sviluppo, si può chiedere a Phind un intervento o comunque una consulenza risolutiva. In questo modo, proprio grazie all’intelligenza artificiale, il lavoro di programmazione può procedere spedito, superando quegli scogli che in alcuni casi possono risultare davvero bloccanti.

Credit immagine in apertura: iStock.com – Userba011d64_201