Model Registry

Управление моделями и деплоями

Централизованный реестр для хранения, версионирования и управления ML моделями. Отслеживание lineage, управление деплоями и A/B тестирование.

Регистрация

Каталог моделей с метаданными

Версионирование

Семантические версии

Деплой

Развертывание на inference

Доступные модели

Платформа поддерживает широкий спектр open-source моделей, развёрнутых локально в вашей инфраструктуре.

Модель	Тип	Контекст	Статус
llama-3-70b	LLM	128K	active
llama-3-8b	LLM	128K	active
mistral-7b	LLM	32K	active
qwen-72b	LLM	32K	active
bge-m3	Embedding	8K	active
bge-reranker	Reranker	512	active

Регистрация модели

Зарегистрируйте кастомную модель после fine-tuning или импортируйте модель из внешнего источника.

register_model.py
1from coren import Coren
2
3client = Coren()
4
5# Регистрация модели после fine-tuning
6model = client.models.create(
7    name="credit-scoring-llm",
8    type="llm",
9    framework="pytorch",
10    description="LLaMA 70B, дообученная для кредитного скоринга",
11    source={
12        "type": "finetuning",
13        "job_id": "ftjob_abc123"
14    },
15    tags=["production", "scoring", "llama-3"],
16    metadata={
17        "base_model": "llama-3-70b",
18        "training_dataset": "ds_credit_v2",
19        "epochs": 3,
20        "perplexity": 3.89
21    }
22)
23
24print(f"Модель зарегистрирована: {model.id}")

Версионирование

Управляйте версиями моделей с семантическим версионированием. Продвигайте версии через стадии: development → staging → production.

Development

Начальное тестирование

Staging

Пре-продакшн

Production

Боевой трафик

Archived

Устаревшая

versioning.py
1# Создание новой версии
2version = client.models.versions.create(
3    model_name="credit-scoring-llm",
4    version="2.0.0",
5    stage="staging",
6    source={
7        "type": "finetuning",
8        "job_id": "ftjob_xyz789"
9    },
10    changelog="Улучшено качество на новых данных",
11    metrics={
12        "perplexity": 3.45,
13        "accuracy": 0.923
14    }
15)
16
17# Продвижение в production
18client.models.versions.update(
19    model_name="credit-scoring-llm",
20    version="2.0.0",
21    stage="production"
22)
23
24# Сравнение версий
25comparison = client.models.compare(
26    model_name="credit-scoring-llm",
27    v1="1.0.0",
28    v2="2.0.0"
29)
30print(f"Улучшение accuracy: {comparison.improvements.accuracy}")

Развертывание модели

Разверните модель на inference-эндпоинт с настраиваемыми ресурсами, автоскейлингом и распределением трафика.

deployment.py
1# Создание деплоя
2deployment = client.models.deployments.create(
3    model_name="credit-scoring-llm",
4    name="prod-credit-scoring",
5    version="2.0.0",
6    compute={
7        "instance_type": "gpu.a100",
8        "min_replicas": 2,
9        "max_replicas": 10,
10        "target_concurrency": 50
11    },
12    autoscaling={
13        "metric": "request_latency_p95",
14        "target_value": 500,  # мс
15        "scale_down_delay": 300
16    }
17)
18
19# Canary deployment — постепенный переход на новую версию
20client.models.deployments.update(
21    model_name="credit-scoring-llm",
22    deployment_name="prod-credit-scoring",
23    traffic_split={
24        "2.0.0": 90,  # 90% трафика
25        "2.1.0-beta": 10  # 10% на новую версию
26    }
27)
28
29# Статус деплоя
30status = client.models.deployments.get(
31    model_name="credit-scoring-llm",
32    deployment_name="prod-credit-scoring"
33)
34print(f"Реплик: {status.ready_replicas}/{status.desired_replicas}")

Zero-Downtime деплой

Все деплои используют стратегию blue-green по умолчанию. Новые инстансы полностью инициализируются и проходят health check до получения трафика.

API эндпоинты

Модели

GET/v1/modelsСписок моделей

POST/v1/modelsРегистрация модели

GET/v1/models/{name}Получить модель

PATCH/v1/models/{name}Обновить метаданные

DELETE/v1/models/{name}Удалить модель

Версии

GET/v1/models/{name}/versionsСписок версий

POST/v1/models/{name}/versionsСоздать версию

PATCH/v1/models/{name}/versions/{v}Обновить стадию

GET/v1/models/{name}/compareСравнить версии

Деплои

GET/v1/models/{name}/deploymentsСписок деплоев

POST/v1/models/{name}/deploymentsСоздать деплой

GET/v1/models/{name}/deployments/{id}Статус деплоя

PATCH/v1/models/{name}/deployments/{id}Обновить деплой

DELETE/v1/models/{name}/deployments/{id}Удалить деплой

Agent Orchestrator Fine-tuning Engine

Model Registry

Управление моделями и деплоями

Регистрация

Каталог моделей с метаданными

Версионирование

Семантические версии

Деплой

Развертывание на inference

Доступные модели

Платформа поддерживает широкий спектр open-source моделей, развёрнутых локально в вашей инфраструктуре.

Модель	Тип	Контекст	Статус
llama-3-70b	LLM	128K	active
llama-3-8b	LLM	128K	active
mistral-7b	LLM	32K	active
qwen-72b	LLM	32K	active
bge-m3	Embedding	8K	active
bge-reranker	Reranker	512	active

Регистрация модели

Зарегистрируйте кастомную модель после fine-tuning или импортируйте модель из внешнего источника.

register_model.py
1from coren import Coren
2
3client = Coren()
4
5# Регистрация модели после fine-tuning
6model = client.models.create(
7    name="credit-scoring-llm",
8    type="llm",
9    framework="pytorch",
10    description="LLaMA 70B, дообученная для кредитного скоринга",
11    source={
12        "type": "finetuning",
13        "job_id": "ftjob_abc123"
14    },
15    tags=["production", "scoring", "llama-3"],
16    metadata={
17        "base_model": "llama-3-70b",
18        "training_dataset": "ds_credit_v2",
19        "epochs": 3,
20        "perplexity": 3.89
21    }
22)
23
24print(f"Модель зарегистрирована: {model.id}")

Версионирование

Development

Начальное тестирование

Staging

Пре-продакшн

Production

Боевой трафик

Archived

Устаревшая

versioning.py
1# Создание новой версии
2version = client.models.versions.create(
3    model_name="credit-scoring-llm",
4    version="2.0.0",
5    stage="staging",
6    source={
7        "type": "finetuning",
8        "job_id": "ftjob_xyz789"
9    },
10    changelog="Улучшено качество на новых данных",
11    metrics={
12        "perplexity": 3.45,
13        "accuracy": 0.923
14    }
15)
16
17# Продвижение в production
18client.models.versions.update(
19    model_name="credit-scoring-llm",
20    version="2.0.0",
21    stage="production"
22)
23
24# Сравнение версий
25comparison = client.models.compare(
26    model_name="credit-scoring-llm",
27    v1="1.0.0",
28    v2="2.0.0"
29)
30print(f"Улучшение accuracy: {comparison.improvements.accuracy}")

Развертывание модели

Разверните модель на inference-эндпоинт с настраиваемыми ресурсами, автоскейлингом и распределением трафика.

deployment.py
1# Создание деплоя
2deployment = client.models.deployments.create(
3    model_name="credit-scoring-llm",
4    name="prod-credit-scoring",
5    version="2.0.0",
6    compute={
7        "instance_type": "gpu.a100",
8        "min_replicas": 2,
9        "max_replicas": 10,
10        "target_concurrency": 50
11    },
12    autoscaling={
13        "metric": "request_latency_p95",
14        "target_value": 500,  # мс
15        "scale_down_delay": 300
16    }
17)
18
19# Canary deployment — постепенный переход на новую версию
20client.models.deployments.update(
21    model_name="credit-scoring-llm",
22    deployment_name="prod-credit-scoring",
23    traffic_split={
24        "2.0.0": 90,  # 90% трафика
25        "2.1.0-beta": 10  # 10% на новую версию
26    }
27)
28
29# Статус деплоя
30status = client.models.deployments.get(
31    model_name="credit-scoring-llm",
32    deployment_name="prod-credit-scoring"
33)
34print(f"Реплик: {status.ready_replicas}/{status.desired_replicas}")

Zero-Downtime деплой

API эндпоинты

Модели

GET/v1/modelsСписок моделей

POST/v1/modelsРегистрация модели

GET/v1/models/{name}Получить модель

PATCH/v1/models/{name}Обновить метаданные

DELETE/v1/models/{name}Удалить модель

Версии

GET/v1/models/{name}/versionsСписок версий

POST/v1/models/{name}/versionsСоздать версию

PATCH/v1/models/{name}/versions/{v}Обновить стадию

GET/v1/models/{name}/compareСравнить версии

Деплои

GET/v1/models/{name}/deploymentsСписок деплоев

POST/v1/models/{name}/deploymentsСоздать деплой

GET/v1/models/{name}/deployments/{id}Статус деплоя

PATCH/v1/models/{name}/deployments/{id}Обновить деплой

DELETE/v1/models/{name}/deployments/{id}Удалить деплой

Agent Orchestrator Fine-tuning Engine