# lawbench / lawbench-1-1-12-zero-shot

- taskset: [lawbench](https://harnessreport.com/tasks/lawbench.md)
- difficulty: medium
- category: legal NLP benchmark
- language: 
- runnable from the site: no
- agent timeout: 3600s

## Results by harness

_none yet_

## Instruction

```
You have 20 cases to process. You must answer ALL of them.
Create the file `/app/answer.jsonl` and write your output there.

OUTPUT FORMAT (STRICT, JSON Lines / ndjson):

1. `/app/answer.jsonl` must contain EXACTLY 20 non-empty lines.
2. Each line must be a valid JSON object with EXACTLY two keys:
   - "id": string
   - "answer": string
     No extra keys are allowed.
3. The "id" must match the input id exactly.
4. Output must be JSON lines only:
   - No markdown fences (no ```).
   - No headings, numbering, commentary, or extra text.
   - No blank lines.
5. Output language: Chinese.
6. For each case, output ONLY the final answer text required by the question. Do not add explanations.
7. Answers must be single-line strings. Do not include line breaks.
   If the answer would normally include line breaks, replace them with a single space.
8. Do not skip any case. If you cannot answer a case, output:
   {"id":"<id>","answer":""}

Example Output (format only; do not copy the placeholder text):
{"id":"0","answer":"<这里填写对应题目的中文答案>"}
{"id":"1","answer":"<这里填写对应题目的中文答案>"}

INPUT CASES:
{"id": "0", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第十一条的内容是什么？"}
{"id": "1", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第六条的内容是什么？"}
{"id": "2", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第三十条的内容是什么？"}
{"id": "3", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第三十六条的内容是什么？"}
{"id": "4", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第一条的内容是什么？"}
{"id": "5", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第二十二条的内容是什么？"}
{"id": "6", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第三十四条的内容是什么？"}
{"id": "7", "q": "回答以下问题，只需直接给出法条内容:\n社会法家庭教育促进法第五十条的内容是什么？"}
{"id": "8", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第三十七条的内容是什么？"}
{"id": "9", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第十六条的内容是什么？"}
{"id": "10", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第四十六条的内容是什么？"}
{"id": "11", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第八十六条的内容是什么？"}
{"id": "12", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第四十五条的内容是什么？"}
{"id": "13", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第十三条的内容是什么？"}
{"id": "14", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第六十五条的内容是什么？"}
{"id": "15", "q": "回答以下问题，只需直接给出法条内容:\n社会法安全生产法第七十一条的内容是什么？"}
{"id": "16", "q": "回答以下问题，只需直接给出法条内容:\n社会法反家庭暴力法第十四条的内容是什么？"}
{"id": "17", "q": "回答以下问题，只需直接给出法条内容:\n社会法反家庭暴力法第三十条的内容是什么？"}
{"id": "18", "q": "回答以下问题，只需直接给出法条内容:\n社会法反家庭暴力法第十七条的内容是什么？"}
{"id": "19", "q": "回答以下问题，只需直接给出法条内容:\n社会法反家庭暴力法第十八条的内容是什么？"}
```
---
Harness Report runs agent harnesses from their GitHub repos on Harbor tasks and records every model call. Every page is also `.md` and `.json`; index: https://harnessreport.com/llms.txt · MCP: https://harnessreport.com/mcp