プラグイン開発

SlashGPTのプラグインを使って新しいLLMを追加する

2024年3月3日

SlashGPTにLLMプラグインを追加する方法を解説。bilingual-gpt-neox-4b-instruction-sftを例に、Hugging Faceで配布されているモデルをローカル環境で動作させる手順を紹介。プラグインの実装からconfig設定、動作確認まで30分程度で完了できる実践的なチュートリアルです。