系统排名
排名 | 时间 | 系统名称 | Pre-Test | Test | ||
Average | EM | F1 | Average↓ | |||
1 | 2018/8/10 | Unnamed System (ensemble) 北京信息科技大学智能信息处理实验室 |
74.697 | 70.800 | 88.328 | 79.564 |
2 | 2018/8/10 | Unnamed System (single) 北京信息科技大学智能信息处理实验室 |
72.711 | 68.050 | 85.835 | 76.942 |
3 | 2018/7/15 | Unnamed System (ensemble) CIST - 北京邮电大学 |
69.500 | 63.900 | 83.540 | 73.720 |
4 | 2018/7/22 | Unnamed System (ensemble) 6ESTATES PTE LTD |
66.174 | 61.100 | 83.832 | 72.466 |
5 | 2018/8/5 | Unnamed System (single) 6ESTATES PTE LTD |
72.902 | 61.550 | 83.340 | 72.445 |
6 | 2018/7/26 | Z-Reader (single) 南方科技大学计算机科学与工程系 |
70.179 | 60.350 | 82.468 | 71.409 |
7 | 2018/7/15 | Unnamed System (single) CIST - 北京邮电大学 |
66.867 | 60.750 | 80.480 | 70.615 |
8 | 2018/8/9 | OmegaOne (single) FDU & XMU |
72.166 | 59.850 | 80.331 | 70.091 |
9 | 2018/8/10 | Unnamed System (single) SXU - 山西大学 |
57.621 | 51.350 | 74.602 | 62.976 |
10 | 2018/7/28 | Unnamed System (single) THUIR & ILPS |
50.918 | 43.550 | 66.416 | 54.983 |
11 | 2018/7/4 | QANet (single) KBNLU - 中国科学院软件研究所 |
35.523 | 29.150 | 53.880 | 41.515 |
12 | 2018/8/10 | Unnamed System (single) LittleBai - 开智学堂 |
19.224 | 12.600 | 40.561 | 26.581 |
13 | 2018/7/29 | Unnamed System (single) JSPI-POAL |
16.730 | 0.600 | 34.957 | 17.779 |
14 | 2018/7/29 | SXU-Reader (single) 山西大学 |
11.749 | 0.000 | 25.492 | 12.746 |
15 | 2018/7/25 | Unnamed System (single) 上海理工大学自然语言实验室 |
3.800 | 0.000 | 7.199 | 3.599 |
16 | 2018/8/10 | Unnamed System (single) 武汉大学计算机学院语言与信息研究中心 |
0.000 | 0.000 | 0.000 | 0.000 |
Human Performance CMRC 2018 Officials |
95.249 | 91.083 | 97.348 | 94.216 |
注意
-
开发集排行榜仅供系统验证使用,并不作为最终评测排名的依据。
-
提醒各参赛单位,开发集结果排名仅供参考,并不能由此来判定本次评测最终的排名情况(并非所有参赛队伍都提交了最好的系统)。
-
预测试集为最终评测测试集的子集,相关结果仅供参考,不作为最终评测排名的依据。
重要时间点
事件 | 状态 | 时间 |
提交系统验证开发集&预测试集 | 未开始 | 2018年6月7日 ~ 2018年 |
提交系统验证测试集 | 未开始 | 2018年8月13日 ~ 2018年8月17日 |
开放式挑战 | 未开始 | TBD |