vllm-server
编程协作
部署和管理vLLM以实现高吞吐量的LLM推理。配置连续批处理、张量并行、量化以及与OpenAI兼容的API端点,用于生产环境中的LLM服务。 --- 构建以AI
用自然语言找工具、提示词、技能、MCP 与工作流。
已理解:
共 0 条
编程协作 · Agent 技能
Orchestrates end-to-end autonomous AI research projects using a two-loop archite
编程协作
使用多组学数据进行患者分层的相似性网络融合(SNF)。将多种类型的数据整合到一个统一的患者相似性网络中。在执行患者分层或将多组学数据整合到统一的相似性网络时使用
编程协作 · Agent 技能
Deep-crawl any website from start URLs, return per-page LLM-ready text/markdown/
编程协作 · Agent 技能
在AI辅助编程期间促进有目的的技能发展。在完成架构工作(新文件、模式更改、重构)后提供交互式学习练习。在完成功能、做出设计决策或用户要求更好地理解代码时使用。支
编程协作 · Agent 技能
GGUF格式和llama.cpp量化用于高效的CPU/GPU推理。在将模型部署到消费级硬件、Apple Silicon上,或需要2-8位灵活量化且无需GPU要求
编程协作 · Agent 技能
Create, edit, and extract content from PowerPoint (.pptx) files; use when you ne