Addestramento efficiente di PyTorch con dati cloud

Agent Platform Neural Architecture Search non ha requisiti che descrivono come progettare i tuoi addestratori. Pertanto, scegli i framework di addestramento per creare l'addestratore.

Per l'addestramento di PyTorch con grandi quantità di dati, la best practice è utilizzare il paradigma dell'addestramento distribuito e leggere i dati da Cloud Storage. Consulta il post del blog Efficient PyTorch training with Agent Platform Neural Architecture Search per scoprire i metodi per migliorare le prestazioni dell'addestramento. Puoi notare un miglioramento complessivo del rendimento di 6 volte con i dati su Cloud Storage utilizzando WebDataset e scegliendo DistributedDataParallel o FullyShardedDataParallel strategie di addestramento distribuito. Le prestazioni dell'addestramento utilizzando i dati su Cloud Storage sono simili a quelle dell'addestramento utilizzando i dati su un disco locale.

L'esempio di classificazione MNasNet predefinito ha incorporato questi metodi nella pipeline di addestramento.