红帽推出红帽AI 3

钛媒体App 10月15日消息，红帽公司发布红帽AI 3（Red Hat AI 3），升级其企业级人工智能（AI）平台。该平台融合了红帽AI推理服务器、红帽企业Linux AI（RHEL AI）和红帽OpenShift AI的最新创新成果，可简化大规模高性能AI推理的复杂性，帮助企业更轻松地将工作负载从概念验证推进至生产阶段，并提升AI应用相关协作效率。据悉，红帽AI 3是基于vLLM和llm-d社区项目，结合红帽的模型优化能力，提供生产级大语言模型（LLM）服务，强调可扩展且经济高效的推理能力。（广角观察）