Ollama 工具函数调用测试记录
日期:
2024-12-02
LLM
Ollama
functional calling
标签:
LLM, function_calling, AI, Local
环境配置
-
操作系统: Windows 11
-
CPU: Intel i7-13700K
-
GPU: NVIDIA RTX 2080 Ti 22GB
-
显存占用: 12GB
-
模型: hhao/qwen2.5-coder-tools:7b (4.7GB)
测试工具函数
-
calculate_fibonacci(n)
: 计算第 n 个斐波那契数
-
calculate_factorial(n)
: 计算 n 的阶乘
-
get_timestamp()
: 获取当前时间戳
测试结果
并行调用测试结果
-
斐波那契数列计算:
-
第20项: 6,765
-
第50项: 12,586,269,025
-
第100项: 354,224,848,179,261,915,075
-
阶乘计算:
-
100 的阶乘: 9.33262e+157 (完整值已省略)
-
时间戳:
错误处理测试结果
输入: 计算 -5 的阶乘
返回: {"error": "Factorial is not defined for negative numbers"}
性能指标
-
LLM 推理总时间: 2.64 秒
-
显存占用: 12GB
结论
-
模型能够成功处理多个并行工具函数调用
-
错误处理机制运行正常
-
推理速度表现良好
-
内存占用在合理范围内