On-Premises LLM-Entwicklung für Edge AI

ADV621 GenAI Studio to Edge AI
Image: Advantech Europe BV

Um der steigenden Nachfrage nach kosteneffizienten On-Premises-Lösungen für große Sprachmodelle (LLMs) gerecht zu werden, hat Advantech die Einführung von GenAI Studio als Teil des firmeneigenen Edge-AI-SDK angekündigt. Die kostengünstige No-Code-Plattform nutzt eine vielseitige LLM-Plattform mit einzigartigen Integrationsmöglichkeiten sowohl für lokale als auch Cloud-basierte LLMs, einschließlich OpenAI, Gemini, Anthropic und Ollama. Außerdem bietet es eine Funktion zur vollständigen Feinabstimmung, die für Umgebungen mit begrenzten GPU-Ressourcen optimiert ist.