bert

bert_wos46895.xlsx文件是一些公开数据集的评测结果，这只是一部分，其它数据集是公司内部的就不公开了，只需３－4个epoch就能跑到最优性能，各种超参数几乎都尝试过，都没达到更好的性能，总的来说优化空间不大，但和公开方法相比是最优的，这点不得不服．

还有一点要提一下，就是文本序列长度对最终性能几乎没有有任何影响，各种长度都跑过，相比RNN模型来说，这点真的很强大．

Name		Name	Last commit message	Last commit date
Latest commit History 7 Commits
.gitignore		.gitignore
CONTRIBUTING.md		CONTRIBUTING.md
LICENSE		LICENSE
README.md		README.md
__init__.py		__init__.py
bert_wos46895.xlsx		bert_wos46895.xlsx
create_pretraining_data.py		create_pretraining_data.py
extract_features.py		extract_features.py
graph_search.py		graph_search.py
modeling.py		modeling.py
modeling_test.py		modeling_test.py
multilingual.md		multilingual.md
node_cycle.py		node_cycle.py
optimization.py		optimization.py
optimization_test.py		optimization_test.py
run_classifier.py		run_classifier.py
run_pretraining.py		run_pretraining.py
run_squad.py		run_squad.py
run_squad_test.py		run_squad_test.py
sample_text.txt		sample_text.txt
test.py		test.py
test.txt		test.txt
tokenization.py		tokenization.py
tokenization_test.py		tokenization_test.py

Provide feedback