# lawbench / lawbench-1-1-12-zero-shot - taskset: [lawbench](https://harnessreport.com/tasks/lawbench.md) - difficulty: medium - category: legal NLP benchmark - language: - runnable from the site: no - agent timeout: 3600s ## Results by harness _none yet_ ## Instruction ``` You have 20 cases to process. You must answer ALL of them. Create the file `/app/answer.jsonl` and write your output there. OUTPUT FORMAT (STRICT, JSON Lines / ndjson): 1. `/app/answer.jsonl` must contain EXACTLY 20 non-empty lines. 2. Each line must be a valid JSON object with EXACTLY two keys: - "id": string - "answer": string No extra keys are allowed. 3. The "id" must match the input id exactly. 4. Output must be JSON lines only: - No markdown fences (no ```). - No headings, numbering, commentary, or extra text. - No blank lines. 5. Output language: Chinese. 6. For each case, output ONLY the final answer text required by the question. Do not add explanations. 7. Answers must be single-line strings. Do not include line breaks. If the answer would normally include line breaks, replace them with a single space. 8. Do not skip any case. If you cannot answer a case, output: {"id":"<id>","answer":""} Example Output (format only; do not copy the placeholder text): {"id":"0","answer":"<这里填写对应题目的中文答案>"} {"id":"1","answer":"<这里填写对应题目的中文答案>"} INPUT CASES: {"id": "0", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第十一条的内容是什么？"} {"id": "1", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第六条的内容是什么？"} {"id": "2", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第三十条的内容是什么？"} {"id": "3", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第三十六条的内容是什么？"} {"id": "4", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第一条的内容是什么？"} {"id": "5", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第二十二条的内容是什么？"} {"id": "6", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第三十四条的内容是什么？"} {"id": "7", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第五十条的内容是什么？"} {"id": "8", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第三十七条的内容是什么？"} {"id": "9", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第十六条的内容是什么？"} {"id": "10", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第四十六条的内容是什么？"} {"id": "11", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第八十六条的内容是什么？"} {"id": "12", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第四十五条的内容是什么？"} {"id": "13", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第十三条的内容是什么？"} {"id": "14", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第六十五条的内容是什么？"} {"id": "15", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第七十一条的内容是什么？"} {"id": "16", "q": "回答以下问题，只需直接给出法条内容:\n社会法反家庭暴力法第十四条的内容是什么？"} {"id": "17", "q": "回答以下问题，只需直接给出法条内容:\n社会法反家庭暴力法第三十条的内容是什么？"} {"id": "18", "q": "回答以下问题，只需直接给出法条内容:\n社会法反家庭暴力法第十七条的内容是什么？"} {"id": "19", "q": "回答以下问题，只需直接给出法条内容:\n社会法反家庭暴力法第十八条的内容是什么？"} ``` --- Harness Report runs agent harnesses from their GitHub repos on Harbor tasks and records every model call. Every page is also `.md` and `.json`; index: https://harnessreport.com/llms.txt · MCP: https://harnessreport.com/mcp