Core ML
Anche: CoreML, Apple Core ML
Aggiornato il
Definizione
Core ML è il framework di Apple per eseguire modelli di machine learning all’interno di un’app, sul dispositivo. Usa la CPU, la GPU e il Neural Engine, e non ha bisogno di una connessione di rete per fare una previsione.
Core ML fa parte dei sistemi di Apple dal 2017, con macOS 10.13 e iOS 11. Un’app gli passa un modello e un input, come audio, un’immagine o del testo, e Core ML restituisce la risposta del modello. Dove avvengono i calcoli lo decide Core ML.
Core ML non si installa e non si apre. Fa parte di macOS. Ne incontri il nome nella descrizione di un’app, nel nome file di un modello, o quando un download dice di contenere pesi Core ML.
Cosa fa
La descrizione di Apple: Core ML fornisce una rappresentazione unificata per tutti i modelli, e un’app lo usa per fare previsioni e per addestrare o perfezionare modelli, tutto sul dispositivo della persona.
Sulle prestazioni, Apple dice che Core ML ottimizza le prestazioni sul dispositivo sfruttando CPU, GPU e Neural Engine e riducendo al minimo l’uso di memoria e il consumo energetico. Il Neural Engine è la parte dei chip Apple costruita per questo tipo di calcoli, e Core ML è il modo abituale con cui un’app ci arriva.
Perché conta l’esecuzione sul dispositivo
È Apple stessa a sostenerlo: eseguire un modello esclusivamente sul dispositivo di una persona elimina ogni necessità di una connessione di rete, il che aiuta a mantenere privati i dati della persona e reattiva l’app.
Per la voce, significa che l’audio non deve lasciare il Mac per diventare testo. Se una certa app ce lo tiene dipende dall’app, ma il framework lo rende possibile.
I tipi di file
I modelli Core ML esistono in tre forme, e l’estensione ti dice quale.
- `.mlmodel`: il file originale di definizione del modello.
- `.mlpackage`: il formato a pacchetto più recente, che tiene i pesi separati dal programma. È supportato da Xcode 13.
- `.mlmodelc`: un modello compilato, cioè ciò che un’app carica. Una cartella con questa estensione dentro un’app o nei suoi download è un modello Core ML pronto per l’esecuzione.
Da dove vengono i modelli
La maggior parte dei modelli viene addestrata con altri strumenti e poi convertita. Apple pubblica Core ML Tools proprio per questo, per convertire i modelli dalle librerie di addestramento come PyTorch e TensorFlow al formato Core ML.
Gli stessi strumenti possono comprimere un modello durante la conversione, tramite quantizzazione o palettizzazione, il che lo rende più piccolo e spesso più veloce sul Neural Engine.
Core ML e MLX
Apple descrive i due in modo diverso. Core ML serve a integrare i modelli nelle app. MLX è un framework open source per array per sperimentare, addestrare e fare il fine-tuning di modelli generativi su Apple silicon. La documentazione di Apple dice che MLX gira sulla CPU e sulla GPU, mentre Core ML può usare anche il Neural Engine.
Le pagine di Apple ora indirizzano anche gli sviluppatori che lavorano con le architetture di modello più recenti verso un framework separato, Core AI. Core ML resta il modo consolidato per eseguire un modello in un’app.
Le domande più frequenti.
A cosa serve Core ML?
A eseguire modelli di machine learning dentro le app sui dispositivi Apple: riconoscere la voce, classificare immagini, leggere testo e compiti simili, senza inviare i dati a un server.
Core ML ha bisogno di internet?
No. Apple dice che eseguire un modello esclusivamente sul dispositivo elimina ogni necessità di una connessione di rete.
Core ML usa il Neural Engine?
Sì. Apple dice che Core ML sfrutta CPU, GPU e Neural Engine.
Cos’è un file .mlmodelc?
Un modello Core ML compilato, la forma che un’app carica ed esegue.
Qual è la differenza tra Core ML e MLX?
Apple descrive Core ML come il modo per integrare i modelli nelle app, e MLX come un framework per array per sperimentare e fare il fine-tuning di modelli generativi su Apple silicon. Core ML può usare il Neural Engine; MLX gira su CPU e GPU.
Core ML c’è sui Mac Intel?
Sì. Core ML fa parte di macOS dalla versione 10.13. Il Neural Engine c’è solo nei chip Apple silicon, quindi su un Mac Intel usa la CPU e la GPU.
