پرش به محتوا
LLMaaS
در دسترس بنا به درخواست

سرویس هوش مصنوعی خصوصی روی GPUهای تحت کنترل شما.

WECORE Cloud سرویس‌دهی مدیریت‌شدهٔ مدل را برای سازمان یا مشتریان شما مستقر و بهره‌برداری می‌کند؛ با مدل‌های دارای وزن‌های باز تأییدشده، رابط گفت‌وگو و API سازگار با OpenAI روی زیرساخت شما.
سرویس‌دهی مدیریت‌شدهٔ مدل
API سازگار با OpenAI
مدل‌های منتخب دارای وزن‌های باز
استقرار خصوصی با حفظ حریم داده
نمایش محصول در ادامه، تجربهٔ گفت‌وگوی خصوصی و API را نشان می‌دهد که روی ظرفیت GPU در مالکیت یا اجارهٔ سازمان شما ارائه می‌شود.

پیش‌نمایش میزکار LLM با داده‌های نمونه؛ سرویس، مدل و گفت‌وگو فقط جنبهٔ نمایشی دارند.

سرویس LLM مدیریت‌شده برای سازمان یا مشتریان شما

یک سرویس هوش مصنوعی خصوصی روی زیرساخت GPU تحت کنترل‌تان دریافت کنید؛ با مرز مشخص برای پرامپت‌ها، دادهٔ نرم‌افزارها، مدل‌ها و دسترسی.

برای سازمان‌ها

سرویس گفت‌وگو و API کنترل‌شده را برای مدل‌های تأییدشده در اختیار تیم‌های داخلی بگذارید، بدون فرستادن پرامپت یا داده به ارائه‌دهندگان عمومی هوش مصنوعی.

برای ارائه‌دهندگان خدمات ابری

زیرساخت GPU خود را با فهرست مدل‌های منتخب، دسترسی مستأجران، سابقهٔ مصرف و سیاست‌های سرویس به یک خدمت مدیریت‌شدهٔ اجرای مدل تبدیل کنید.

کاربران شما چه کارهایی می‌توانند انجام دهند

از یک مدل تأییدشده در رابط گفت‌وگوی خصوصی یا API سازگار با OpenAI استفاده کنند و نرم‌افزارهای سازمانی را با کتابخانه‌های آشنا به آن متصل کنند.

تیم زیرساخت شما چه امکاناتی در اختیار دارد

تأیید مدل، تخصیص GPU، دسترسی API، هویت، سابقهٔ مصرف، مرز داده، پایش، به‌روزرسانی و چرخهٔ عمر سرویس را کنترل می‌کند.

WECORE چگونه آن را مستقر و بهره‌برداری می‌کند

سازگاری GPU و مدل را اعتبارسنجی می‌کنیم، پشتهٔ سرویس‌دهی را روی زیرساخت شما مستقر می‌کنیم، دسترسی و پایش را یکپارچه می‌کنیم و بهره‌برداری مستمر توافق‌شده را بر عهده می‌گیریم.

اختصاصی
یک سرور GPU برای هر سرویس
سازگار با OpenAI
API گفت‌وگو و تکمیل /v1 به‌عنوان جایگزین مستقیم
مدل‌های متن‌باز
کاتالوگ تأییدشده به‌علاوهٔ مدل‌های وزن‌باز سازگار
خودمیزبان
روی GPUهای شما اجرا می‌شود، داده سرجا می‌ماند
جریان کاری

از مدل تا endpoint، بدون خروج از ابر شما.

WECORE برای یک مدل دارای وزن‌های باز و تأییدشده توسط سازمان شما، یک سرویس LLM اختصاصی ایجاد می‌کند. این سرویس روی یک سرور GPU در پروژهٔ سازمان شما اجرا می‌شود و بخش گفت‌وگوی داخلی و API سازگار با OpenAI را فراهم می‌کند؛ بنابراین تیم شما نیازی به آماده‌سازی پشتهٔ سرویس‌دهی ندارد.
۱

یک مدل انتخاب کنید

یک مدل دارای وزن‌های باز و منتخب را متناسب با کاربردتان از کاتالوگ استقرار انتخاب کنید: پیروی از دستورهای کاربر، گفت‌وگو یا تولید کد.

۲

منابع GPU را انتخاب کنید

پیکربندی GPU و میزان منابع اولیه را از ظرفیت تحت کنترل سازمان انتخاب کنید. بررسی‌های پیش از راه‌اندازی تأیید می‌کنند که حافظهٔ GPU و سهمیه برای مدل کافی‌اند.

۳

در یک گام راه‌اندازی کنید

WECORE سرویس مدل و رابط گفت‌وگوی تحت وب را برای شما راه‌اندازی می‌کند، وزن‌های مدل را با نسخهٔ ثابت از Hugging Face دریافت و سرویس‌دهی می‌کند (نخستین راه‌اندازی برای مدل‌های بزرگ چند دقیقه طول می‌کشد) و سلامت سرویس را می‌سنجد. دسترسی به سرویس با کلید API اختصاصی همان سرویس محافظت می‌شود.

۴

گفت‌وگو و یکپارچه‌سازی کنید

از گفت‌وگوی وب داخلی استفاده کنید یا اپ‌هایتان را با کلید API سرویس به endpoint سازگار با OpenAI وصل کنید؛ پاسخ‌های جریانی هم پشتیبانی می‌شوند.

کاربردها

تیم‌ها چه چیزی روی این سرویس اجرا می‌کنند

برای هر کاربرد، مدل‌های منتخب با تنظیمات آماده، اندازهٔ مناسب GPU و رابط گفت‌وگو یا API متناسب با همان کار فراهم است.
گفت‌وگو

گفت‌وگو و دستیارهای خصوصی

یک دستیار داخلی روی endpoint خصوصی راه بیندازید؛ جایگزینی برای سرویس‌های گفت‌وگوی عمومی، که در آن پرسش‌ها و گفت‌وگوها درون استقرار شما می‌مانند.

Qwen2.5-7B Nemotron Nano 9B
ابزار توسعه‌دهنده

دستیار کدنویسی

یک مدل تأییدشده را از طریق API سازگار با OpenAI برای دستیارهای IDE و جریان‌های بازبینی کد، روی یک سرور GPU اختصاصی در استقرار خود در دسترس بگذارید.

Nemotron Nano 30B-A3B Qwen2.5-7B
اجرای تکرارپذیر

پژوهش و آزمایش

برای تیم‌های پژوهشی و نرم‌افزاری یک endpoint خصوصی با نسخهٔ ثابت مدل و کلید مخصوص هر سرویس فراهم کنید تا آزمایش‌ها تکرارپذیر و دسترسی‌ها محدود بمانند.

Nemotron Nano 4B Qwen2.5-0.5B
پلتفرم

یک لایهٔ کنترل سبک برای سرویس‌دهی مدل با فناوری متن‌باز.

LLMaaS یک مدل دیگر نیست. این سرویس، مدل‌های دارای وزن‌های باز، سرویس‌دهی مدیریت‌شده و رابط وب را روی ظرفیت GPU موجود شما یکپارچه می‌کند و کنترل استقرار و دسترسی را هم در اختیارتان می‌گذارد.
llm-service نمونهٔ نمایشی
model:    Qwen2.5-7B-Instruct
engine:   vLLM
api:      openai-compatible /v1
plan:     تعیین‌شده برای استقرار
access:   https + per-service API key
state:    Ready

رکورد نمونهٔ یک سرویس؛ مقدارها فقط جنبهٔ نمایشی دارند.

کاتالوگ مدل منتخب

با مدل‌های دارای وزن‌های باز و تأییدشده توسط سازمان، نسخه‌های ثابت و تنظیمات پیش‌فرض مناسب شروع کنید. فهرست، مدل‌های در دسترس برای همان استقرار را نشان می‌دهد.

endpoint سازگار با OpenAI

API پایدار گفت‌وگو و تکمیل /v1 به SDKها، عامل‌های هوش مصنوعی و ابزارهای موجود اجازه می‌دهد با نشانی API سرویس LLM و کلید API اختصاصی همان سرویس به آن متصل شوند.

بررسی سازگاری پیش از استقرار

هر مدل به‌صورت سرویسی مدیریت‌شده روی یک سرور اختصاصی اجرا می‌شود. پیش از ساخت سرویس، حافظهٔ GPU، محدودیت طول زمینه و سازگاری پلن را بررسی می‌کنیم.

وضعیت منتشرشدهٔ سرویس

نشانی سرویس تنها پس از عبور سرور مدل از بررسی‌های سلامت منتشر می‌شود و پنل وضعیت سرویس را در طول فراهم‌سازی، آماده‌به‌کار و توقف نشان می‌دهد.

حفظ حریم داده در استقرار خصوصی

پرامپت‌ها، پاسخ‌ها و وزن‌ها روی فضای ذخیره‌سازی داخل ابر شما می‌مانند؛ در زمان سرویس‌دهی مدل، بدون فراخوانی API شخص ثالث و بدون خروج داده به فروشندهٔ مدل.

بررسی سازگاری و هزینهٔ پلن پیش از ایجاد

پیش از ایجاد سرویس، سازگاری حافظهٔ GPU، سهمیهٔ پروژه و برآورد ساعتی پلن پیکربندی‌شده را ببینید. سرویس را هر زمان که بخواهید می‌توانید خودتان متوقف و دوباره راه‌اندازی کنید.

پشتهٔ متن‌باز

سرویس‌دهی مدل با فناوری متن‌باز، یکپارچه و مدیریت‌شده.

LLMaaS اجزای مورد اعتماد تیم‌های پژوهش و پلتفرم را در یک فرایند استقرار خودگردان یکپارچه می‌کند.

سرویس‌دهی مدل

سرویس‌دهی مدل با vLLM API سازگار با OpenAI وزن‌های مدل از Hugging Face شتاب‌دهی GPU

رابط‌ها

رابط گفت‌وگوی وب REST + SDK پاسخ‌های جریانی

مدل‌ها

Qwen2.5 NVIDIA Nemotron مدل‌های وزن‌باز برای هر استقرار

پلتفرم

ظرفیت GPU خودتان سرور اختصاصی برای هر سرویس کلیدهای API اختصاصی هر سرویس بررسی سلامت و وضعیت سرویس
چرا WECORE Cloud

مقایسهٔ API میزبانی‌شده با خودمیزبان

بُعد
APIهای میزبانی‌شدهٔ LLM
LLMaaS WECORE
جای اجرا
سرویس SaaS فروشنده در محیطی مشترک
ظرفیت GPU خودتان، درون ابر شما
محل نگه‌داری داده
پرامپت‌ها و داده از شبکهٔ شما خارج می‌شوند
پرامپت‌ها، وزن‌ها و لاگ‌ها روی ابر شما می‌مانند
کنترل مدل
مدل‌ها و نسخه‌های فروشنده
مدل‌های دارای وزن‌های باز و تأییدشده توسط سازمان با نسخه‌های ثابت
یکپارچه‌سازی
endpointهای اختصاصی
API سازگار با OpenAI؛ استفاده از نشانی و کلید API سرویس
مدل هزینه
به‌ازای توکن و هر درخواست
برآورد ساعتی پلن پیکربندی‌شده، پیش از ایجاد
پرسش‌های متداول

دربارهٔ سرویس مدل زبانی

این سرویس چه کاری انجام می‌دهد، چه امکاناتی دارد و چگونه با زیرساخت WECORE هماهنگ می‌شود

این یک سرویس LLM اختصاصی است: یک مدل دارای وزن‌های باز و تأییدشده توسط سازمان شما روی یک سرور GPU در پروژهٔ سازمان شما اجرا می‌شود. این سرویس بخش گفت‌وگوی داخلی و API سازگار با OpenAI دارد و این API با کلید اختصاصی همان سرویس محافظت می‌شود.

از میان مدل‌های دارای وزن‌های باز انتخاب کنید که سازمان برای این استقرار تأیید کرده است. کاتالوگ تأییدشده خانواده‌های Qwen2.5 و NVIDIA Nemotron را به‌صورت پیکربندی‌های آزموده ارائه می‌کند. فراتر از آن، WECORE می‌تواند مدل‌های وزن‌باز آزادانه منتشرشده را مستقر کند (از جمله نسخه‌های Llama،‏ Mistral و DeepSeek)؛ هر جا که مجوز مدل اجازهٔ استقرار بدهد و مدل با پیکربندی GPU موجود و محیط سرویس‌دهی سازگار باشد. هر مدخل فهرست نسخهٔ ثابت و تنظیمات پیش‌فرض مناسب می‌گیرد و با پیکربندی GPU و محدودیت طول زمینه بررسی می‌شود.

خیر؛ کاتالوگ را سازمان شما از میان خانواده‌های تأییدشده انتخاب می‌کند. این سرویس مدل‌ها را سرویس‌دهی می‌کند؛ مدلی را آموزش یا تنظیم دقیق نمی‌کند و وزن‌های ارائه‌شده توسط مشتری را هم میزبانی نمی‌کند.

از طریق یک API گفت‌وگو و تکمیل /v1 سازگار با OpenAI. نشانی API سرویس LLM و کلید API اختصاصی همان سرویس را در SDKها، چارچوب‌های عامل هوش مصنوعی و ابزارهای موجود خود وارد کنید؛ نیازی به بازنویسی کد نیست. یک گفت‌وگوی وب داخلی هم برای کسانی که نمی‌خواهند کد بنویسند گنجانده شده است.

هیچ‌جای بیرون از محیط شما. پرامپت‌ها، پاسخ‌ها، وزن‌های مدل و لاگ‌ها روی فضای ذخیره‌سازی اختصاص‌یافته به سازمان در زیرساخت تحت کنترل شما می‌مانند. در زمان سرویس‌دهی مدل هیچ فراخوانی API شخص ثالث و هیچ انتقال داده‌ای به فروشندهٔ مدل وجود ندارد. در زمان ایجاد سرویس، وزن‌های مدل تأییدشده با نسخهٔ ثابت از Hugging Face دریافت می‌شوند (تنها وابستگی بیرونی سرویس) و نخستین راه‌اندازی بسته به اندازهٔ مدل چند دقیقه طول می‌کشد.

روی ظرفیت GPU در زیرساخت تحت کنترل سازمان شما. هر مدل به‌صورت سرویس مدیریت‌شده روی یک سرور اختصاصی در پروژهٔ سازمان شما اجرا می‌شود و endpoint با کلید API مختص همان سرویس محافظت می‌شود. WECORE لایهٔ سرویس‌دهی را روی آن زیرساخت اداره می‌کند. اگر هنوز بنیاد ابری ندارید، همکاری می‌تواند شامل استقرار لایهٔ زیرساخت متن‌باز سرویس هم باشد.

WECORE سرویس را مستقر می‌کند و لایهٔ سرویس‌دهی را اداره می‌کند. تیم زیرساخت شما مالک تأیید مدل، تخصیص GPU، دسترسی API، نرخ‌ها و مرز داده است و کاربران شما مالک سرویس‌ها، پرسش‌ها و کلیدهای خود هستند. WECORE سلامت سرویس را پایش می‌کند، به‌روزرسانی‌ها را هماهنگ می‌کند و رخدادها را در چارچوب تقسیم مسئولیت توافق‌شده برای استقرار شما پیگیری می‌کند. دسترسی به پنل نقش‌محور است و اقدام‌های مدیریتی در سوابق ممیزی دستکاری‌ناپذیر ثبت می‌شوند. سخت‌افزار و تأسیسات نزد مالک زیرساخت می‌ماند، مگر آنکه جداگانه در توافق بیاید؛ مدل کامل مسئولیت و دسترسی در صفحهٔ قیمت‌گذاری آمده است.

بله. ابزارهای عیب‌یابی سرویس آمادگی و سلامت را نشان می‌دهند و پنل وضعیت سرویس را در طول چرخهٔ عمر آن نمایش می‌دهد؛ توقف و شروع صریح هم هزینه را در کنترل شما نگه می‌دارد. پنل پیش از ایجاد، برآورد ساعتی پلن پیکربندی‌شده را نمایش می‌دهد؛ تعیین نرخ و شرایط تجاری برای هر استقرار مشخص می‌شوند.

آن‌ها پلتفرم‌های همه‌منظوره‌ای‌اند که روی‌شان می‌سازید: KaaS برای اپلیکیشن‌های کانتینری و پلتفرم HPC برای محاسبات دسته‌ای و موازی مدیریت‌شده. LLMaaS یک محصول آماده است، نه یک پلتفرم؛ مدل‌های متن‌باز را در یک گام با رابط گفت‌وگو و API سازگار با OpenAI در دسترس قرار می‌دهد تا تیم شما مجبور نباشد پشتهٔ سرویس‌دهی مدل را سرهم کند. برای استفاده از آن به هیچ‌کدام از آن دو محصول نیاز ندارید.

در دسترس بنا به درخواست

سرویس مدل خصوصی روی GPUهای خودتان

LLMaaS WECORE برای تیم‌هایی است که راحتی یک API میزبانی‌شدهٔ LLM را بدون فرستادن پرامپت‌ها و داده به یک فروشندهٔ عمومی می‌خواهند؛ مدل‌های متن‌باز، یک endpoint سازگار با OpenAI و رابط گفت‌وگو که به‌صورت یک سرویس مدیریت می‌شوند. در جلسهٔ معرفی می‌توانید نمایش زندهٔ همین مسیر را ببینید؛ از انتخاب مدل از کاتالوگ تا نخستین پاسخ جریانی.