Repository navigation
[疑问] aisbench哪里可以控制 不发 penalties 在配置文件里已经注释掉了 #146
Description
疑问描述
ais_bench --models vllm_api_general_stream --datasets gsm8k_gen_0_shot_cot_str_perf --debug --summarizer default_perf --num-prompts 1
from ais_bench.benchmark.models import VLLMCustomAPIStream
models = [
dict(
attr="service",
type=VLLMCustomAPIStream,
abbr='vllm-api-general-stream',
path="/data/Qwen25-72B",
model="qwen3",
request_rate = 0,
retry = 2,
host_ip = "100.100.135.161",
host_port = 8000,
max_out_len = 1024,
batch_size=1,
trust_remote_code=False,
generation_kwargs = dict(
temperature = 0,
ignore_eos = True
#top_k = 10,
#top_p = 0.95,
#seed = None,
#repetition_penalty = 1.03,
)
)
]
02/11 17:53:04 - AISBench - ERROR - /data/benchmark/ais_bench/benchmark/clients/base_client.py - raise_error - 35 - [AisBenchClientException] Request failed: HTTP status 400. Server response: {"error":{"message":"async scheduling with spec decoding doesn't yet support penalties, bad words or structured outputs in sampling parameters.","type":"BadRequestError","param":null,"code":400}}
前置检查
- 我已读懂主页文档的快速入门，无法解答我的疑惑
Activity
github-actions commentedon Feb 11, 2026
🌟欢迎给AISBench benchmark测评工具提issue，您可以先尝试以下途径寻求issue的解决方法：
github-actions commentedon Feb 11, 2026
🤖 基于AI机器人的issue内容完整性检查结果:
问题内容检查结果
检查状态
PASS
详细检查
改进建议
所有内容已完备！
补充说明
该 Issue 提供了清晰的错误日志，直接关联到标题中关于“不发 penalties”的疑问，内容完整且相关。
👉 如果想重新检查，在评论区@issue_checker即可。
【强烈推荐❤️🔥】确保issue描述完整后，可以试着将issue交给
回答，deepwiki包含了和工具相关的所有知识库
chenghaitao1987 commentedon Feb 11, 2026
@SJTUyh
github-actions commentedon Feb 11, 2026
🤖 基于AI机器人的issue内容完整性检查结果:
问题内容检查结果
检查状态
PASS
详细检查
改进建议
所有内容已完备！
补充说明
该issue内容已包含所有必需信息，并且“疑问描述”部分提供了清晰的复现步骤、配置代码和详细的错误信息，有助于理解和解决问题。同时，“前置检查”部分也已勾选，表明用户已进行了初步的排查。
👉 如果想重新检查，在评论区@issue_checker即可。
【强烈推荐❤️🔥】确保issue描述完整后，可以试着将issue交给
回答，deepwiki包含了和工具相关的所有知识库
GaoHuaZhang commentedon Feb 12, 2026
请求体中并不包含penalties，建议排查下模型配置async scheduling with spec decoding doesn't yet support penalties, bad words or structured outputs in sampling parameters. 可以用curl命令就行调试测试