Giải pháp AISO cho Sovereign AI

TPIsoftware và PHISON aiDAPTIV: Triển khai AI tại chỗ (On-premises) với tốc độ và quy mô vượt trội

Xây dựng AI dễ dàng hơn bao giờ hết

AISO Portal là nơi cung cấp các giải pháp toàn diện cho doanh nghiệp của bạn

Token không giới hạn

Tận dụng tối đa khả năng của AI với số lượng token sử dụng không giới hạn để thúc đẩy đổi mới

Sẵn sàng sử dụng

Phần cứng và phần mềm đáp ứng nhu cầu kinh doanh mà không cần lo ngại về độ phức tạp kỹ thuật

Tăng cường tính tương thích

Dữ liệu được lưu trữ tại chỗ (on-premises), giúp giảm thiểu rủi ro về bảo mật và sự không tương thích

Tuân thủ quy định

Hạ tầng AI dành cho các ngành yêu cầu tuân thủ khắt khe như tài chính, y tế, sản xuất và chính phủ

Mở khóa năng lực tính toán với PHISON aiDAPTIV

Training Time (hours) by Model Size Single node, 4× GPU – aiDAPTIV™ vs. GPU-only
with aiDAPTIV™ GPU card only
Training set size and minimum GPU count by model size
Training Set Size 140 GB 260 GB 1,400 GB
Min GPU Count aiDAPTIV™ / GPU-only 4 / 4 4 / 6 4 / 30
Scaling is linear based on GPU count and model size. Training based on 10M tokens.

Tăng cường năng lực xử lý với hiệu suất và hiệu quả cao

Trong cấu hình 4x GPU đơn nút, GPU kết hợp cùng aiDAPTIV chạy mô hình 70 tỷ tham số nhanh gấp 4 lần so với chỉ dùng GPU thông thường, hỗ trợ các mô hình lớn gấp 10 lần so với DELL và HPE.
Quicker Time to First Token for Faster Inference aiDAPTIV™ vs. GPU card only – 8B model · hover dots for details
Time to first token by token length aiDAPTIV remains below three seconds at 32K tokens while the GPU-only series fails after 2K tokens and reaches more than eight seconds. 9s 8s 7s 6s 5s 4s 3s 2s 1s 0 TTFT (s) 8 16 32 64 128 256 512 1K 2K 4K 8K 16K 32K Token Length Reduce TTFT by 25×
with aiDAPTIV™ GPU card only

Suy luận tốc độ cao với aiDAPTIV, giảm thời gian phản hồi token đầu tiên (TTFT) tới 25 lần

  • Khối lượng công việc và độ trễ suy luận tăng lên khi tập dữ liệu huấn luyện phát triển. OrientAI, khi được trang bị aiDAPTIV, mang lại khả năng suy luận siêu tốc trong việc tạo kết quả đầu ra.
  • Trong cùng thiết lập tài nguyên tính toán, thời gian suy luận của mô hình được giảm từ 52 giây xuống còn 2 giây.

Giải pháp tích hợp AISO cho AI tại chỗ (On-premises AI)

Tất cả trong một, ngay tại một nơi

Dành cho doanh nghiệp

Được xây dựng cho các tổ chức lớn cần suy luận với độ đồng thời cao và phân tầng quản trị

Máy trạm

Bộ xử lý / Nền tảng

  • NVIDIA 6000ADA
  • NVIDIA RTX Pro 6000 Max-Q W/S Edition

Tính năng

  • Max GPU x 2
  • PCIe Gen5 x 16
  • 2TB Memory

Thông số kỹ thuật aiDAPTIV

  • aiDAPTIVReady: AI100E 2TB-4TB x 2

Máy chủ dạng Rack

Bộ xử lý / Nền tảng

  • NVIDIA A6000 / 6000ADA
  • NVIDIA RTX Pro 6000 Server Edition
  • NVIDIA HGX H200
  • AMD Instinct MI300X

Tính năng

  • Max GPU x 8
  • PCIe Gen5 x 16
  • CPU (Dual Socket)

Thông số kỹ thuật aiDAPTIV

  • aiDAPTIVReady: AI100E 2TB-4TB x 2

Dành cho các phòng thí nghiệm

Lý tưởng cho các nhà phát triển phần mềm muốn chạy thử nghiệm (PoC) hoặc các mô hình AI tiên tiến trên thiết bị biên.

AI PC

Bộ xử lý / Nền tảng

  • Intel Panther Lake
  • AMD Ryzen AI Max

Tính năng

  • Max GPU x 1 • PCIe Gen4 x 4
  • Ultra-compact

Thông số kỹ thuật chính

  • aiDAPTIVReady:A100E 320GB-1TB M.2 2280
  • GPU: NVIDIA RTX 5060Ti / 5090 / AMD RX 9070

AI NB

Bộ xử lý / Nền tảng

  • Intel Panther Lake
  • AMD Ryzen AI Max

Tính năng

  • Max GPU x 1 • PCIe Gen4 x 4
  • Portable, ultra-compact

Thông số kỹ thuật chính

  • aiDAPTIVReady: AI20EH 1TB
  • GPU: Intel® Arc™ GPU B390

Dành cho Cá nhân hoặc Nhóm nhỏ

Được thiết kế cho các khối lượng công việc AI hiệu suất cao, tiêu thụ điện năng thấp trong điện toán biên.

miniPC

Bộ xử lý / Nền tảng

  • Intel ARC 140T GPU 16GB

Tính năng

  • Max GPU x 1
  • Ultra-compact

Thông số kỹ thuật chính

  • 32GB DRAM

AI BOX

Bộ xử lý / Nền tảng

  • NVIDIA Jetson AGX Orin
  • AMD Ryzen AI Max
  • NVIDIA GB10 (Grace Blackwell)
  • Intel Core Ultra Edge

Tính năng

  • Max GPU x 1
  • PCIe Gen4 x 8
  • Fanless

Thông số kỹ thuật chính

  • GB10 / AMD Ryzen AI Max (Unified memory of 128GB)

AISO: Nơi mục tiêu trở thành hiện thực

Với các giải pháp tích hợp của AISO, quy trình mua sắm và triển khai được tinh giản, giúp vận hành AI nhanh chóng hơn với hiệu quả và khả năng quản trị cao.