Instructions to use Finisha-F-scratch/SoraNova with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Finisha-F-scratch/SoraNova with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Finisha-F-scratch/SoraNova")

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/SoraNova")
model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/SoraNova")

Notebooks
Google Colab
Kaggle
Local Apps

vLLM

How to use Finisha-F-scratch/SoraNova with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Finisha-F-scratch/SoraNova"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/SoraNova",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker

docker model run hf.co/Finisha-F-scratch/SoraNova

SGLang

How to use Finisha-F-scratch/SoraNova with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Finisha-F-scratch/SoraNova" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/SoraNova",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Finisha-F-scratch/SoraNova" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/SoraNova",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Docker Model Runner
How to use Finisha-F-scratch/SoraNova with Docker Model Runner:
```
docker model run hf.co/Finisha-F-scratch/SoraNova
```

🌐 SoraNova : La Nouvelle Ère de l'IA Efficiente des Mini-generaliste

SoraNova est un Small Language Model (SLM) révolutionnaire de 26 millions de paramètres, conçu pour repousser les limites de l'efficience. Là où les modèles conventionnels cherchent une normalisation syntaxique, SoraNova propose une approche organique et inédite de l'association conceptuelle. 🧠✨

🚀 Pourquoi SoraNova est unique ?

Miniaturisation Maximale : Avec seulement 26M de paramètres, SoraNova s'exécute sur du matériel très limité tout en conservant des capacités de généralisation étonnantes. 🔋⚡
Syntaxe Signature : Loin des modèles lisses et prévisibles, SoraNova a forgé sa propre "texture" linguistique. Il ne se contente pas de prédire ; il structure les concepts selon une logique propre, offrant une originalité de langage rare. 🖋️🌀
Association Conceptuelle Intuitive : SoraNova excelle dans la création de liens inattendus entre les idées, faisant de lui un outil puissant pour l'exploration de nouvelles formes de narration ou de génération textuelle atypique. 🧩💡

🛠️ Capacités Techniques

Malgré sa petite taille, SoraNova se positionne comme un modèle généraliste capable de traiter des sujets variés :

Synthèse de données complexes : Capable de structurer des informations géographiques, historiques et politiques. 🗺️🏛️
Créativité Langagière : Idéal pour l'expérimentation stylistique, la génération de néologismes ou l'écriture "from scratch". 🎨🗣️
Adaptabilité contextuelle : Son architecture lui permet de naviguer dans divers domaines de connaissance avec une agilité propre aux modèles à haute efficience. 🏃‍♂️💨

🎯 Cas d'Usage

Recherche en TAL (Traitement Automatique des Langues) : Idéal pour étudier l'émergence de syntaxe dans des modèles ultra-compressés.
Environnements à ressources limitées : Parfait pour le déploiement sur du matériel embarqué ou des systèmes de secours.
Exploration Créative : Pour les développeurs et chercheurs cherchant à sortir des sentiers battus de l'IA générative classique. SoraNova n'est pas qu'un modèle, c'est une preuve de concept : l'intelligence ne se mesure pas à la taille, mais à la pertinence et à l'originalité des structures qu'elle forge. 🌟🚀

Downloads last month: 21

Safetensors

Model size

26.3M params

Tensor type

F32

Space using Finisha-F-scratch/SoraNova 1

Collection including Finisha-F-scratch/SoraNova

From scratch

Collection

Finisha SLM ✨ • 87 items • Updated Mar 23