Internals GPU, Mengubah Korpus Yang Ada Menjadi Tugas Pelatihan, dan Mengelola Loop RL

Model open-source 4B yang dilatih pasca dengan Castform menyamai GPT-5.6 Sol dalam akurasi pengambilan sambil memakan biaya 100x lebih murah, menurut Neon. Perusahaan mengatakan permintaan pencarian multi-putaran khas dengan gpt-5.6-sol memakan waktu lebih dari 10 detik dan biaya sekitar $0,03 dari awal hingga akhir, membuatnya lambat dan mahal. Castform memungkinkan pengembang menjalankan pelatihan pasca pembelajaran penguatan tanpa menangani internal ML atau GPU, mengubah korpus yang ada menjadi tugas pelatihan dan mengelola loop RL.

Selama pelatihan, agen berulang kali memanggil Lakebase Search, menciptakan beban kerja yang melonjak yang diserap oleh penskalaan komputasi dinamis Neon. Percabangan Neon memberi setiap rollout status basis data terisolasi, dan kueri perjalanan waktu merekonstruksi status agen. Data pelatihan terbaik sebagian besar tim hanya duduk di basis data mereka.

Masalahnya adalah mengubah data mentah menjadi sesuatu yang dapat digunakan itu sulit, dan membiarkan agen membaca, mencari, dan mengubah data secara murah dalam skala besar memerlukan infrastruktur canggih. Mengarahkan Castform ke Neon melewati keduanya.