Subnet Bittensor menyelesaikan pretraining LLM dengan 72 miliar parameter, TAO naik 54,8% dalam dua minggu terakhir

Berita Gate, 16 Maret, menurut pengumuman resmi, subnet Templar (SN3) dari Bittensor telah menyelesaikan pelatihan prapengembangan terbesar dalam sejarah, Covenant-72B, pada 10 Maret. Covenant-72B adalah model bahasa dengan 72 miliar parameter, yang dipra-latih oleh tim Templar di subnet Bittensor 3, sepenuhnya berbasis internet umum tanpa pusat data terpusat. Model ini meraih skor 67,1 pada pengujian MMLU (tanpa contoh), melampaui model baseline terpusat seperti LLaMA-2-70B dan LLM360 K2 dalam kondisi evaluasi yang sama. Ini adalah model bahasa kolaboratif terbesar yang sepenuhnya tanpa izin yang pernah ada, dengan lebih dari 70 node berbeda yang berkontribusi selama proses operasional. Tim ini telah merilis semua bobot dan checkpoint sesuai lisensi Apache. Terpengaruh berita ini, token subnet TAO dari Bittensor dan subnetnya mengalami kenaikan harga, TAO naik 54,8% dalam dua minggu terakhir. Token subnet Templar naik 194% dalam 7 hari terakhir, saat ini diperdagangkan di angka 19,3 dolar.