vllm-server
编程协作
部署和管理vLLM以实现高吞吐量的LLM推理。配置连续批处理、张量并行、量化以及与OpenAI兼容的API端点,用于生产环境中的LLM服务。 --- 构建以AI
用自然语言找工具、提示词、技能、MCP 与工作流。
已理解:
共 0 条
编程协作
生成标准 Draw.io (.drawio) 格式的可视化图表;支持从零生成与风格迁移两种模式。从零生成:AI/深度学习模型架构图、算法流程图、系统架构图;教育
编程协作 · Agent 技能
为微信公众号文章生成高质量配图。支持封面图(2.35:1)、正文插图(16:9/4:3)、信息图。提供两条路径:AI生成(视觉创意型)和HTML渲染(文字精确型
编程协作 · Agent 技能
根据项目背景、积累的补丁和代码模式自我提升AI工厂技能。分析错误所在、有效的方法,并提高技能以防止未来问题的发生。当您希望为您的项目使AI变得更智能时使用。 -
编程协作 · Agent 技能
构建AI代理,生成文本和聊天回复,生成图像,合成音频,转录语音,生成向量嵌入,重新排序文档,并使用Laravel AI SDK (laravel/ai)管理文件
编程协作 · Agent 技能
构建一个基于浏览器的自定义注释界面,根据您的数据定制,用于审查LLM跟踪并收集结构化反馈。当您需要构建注释工具、审查跟踪或收集人工标签时使用。 --- 通过阅读