config.py 3.2 KB

1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768697071727374757677787980
  1. import argparse
  2. class Args:
  3. @staticmethod
  4. def parse():
  5. parser = argparse.ArgumentParser()
  6. return parser
  7. @staticmethod
  8. def initialize(parser):
  9. # args for path
  10. parser.add_argument('--output_dir', default='./checkpoints/',
  11. help='the output dir for model checkpoints')
  12. parser.add_argument('--bert_dir', default='../model_hub/chinese-roberta-wwm-ext/',
  13. help='bert dir for uer')
  14. parser.add_argument('--data_dir', default='./data/dgre/',
  15. help='data dir for uer')
  16. parser.add_argument('--log_dir', default='./logs/',
  17. help='log dir for uer')
  18. # other args
  19. parser.add_argument('--num_tags', default=53, type=int,
  20. help='number of tags')
  21. parser.add_argument('--seed', type=int, default=123, help='random seed')
  22. parser.add_argument('--gpu_ids', type=str, default='0',
  23. help='gpu ids to use, -1 for cpu, "0,1" for multi gpu')
  24. parser.add_argument('--max_seq_len', default=256, type=int)
  25. parser.add_argument('--eval_batch_size', default=12, type=int)
  26. parser.add_argument('--swa_start', default=3, type=int,
  27. help='the epoch when swa start')
  28. # train args
  29. parser.add_argument('--train_epochs', default=15, type=int,
  30. help='Max training epoch')
  31. parser.add_argument('--dropout_prob', default=0.1, type=float,
  32. help='drop out probability')
  33. # 2e-5
  34. parser.add_argument('--lr', default=3e-5, type=float,
  35. help='bert学习率')
  36. # 2e-3
  37. parser.add_argument('--other_lr', default=3e-4, type=float,
  38. help='bilstm和多层感知机学习率')
  39. parser.add_argument('--crf_lr', default=3e-2, type=float,
  40. help='条件随机场学习率')
  41. # 0.5
  42. parser.add_argument('--max_grad_norm', default=1, type=float,
  43. help='max grad clip')
  44. parser.add_argument('--warmup_proportion', default=0.1, type=float)
  45. parser.add_argument('--weight_decay', default=0.01, type=float)
  46. parser.add_argument('--adam_epsilon', default=1e-8, type=float)
  47. parser.add_argument('--train_batch_size', default=32, type=int)
  48. parser.add_argument('--use_lstm', type=str, default='True',
  49. help='是否使用BiLstm')
  50. parser.add_argument('--lstm_hidden', default=128, type=int,
  51. help='lstm隐藏层大小')
  52. parser.add_argument('--num_layers', default=1, type=int,
  53. help='lstm层数大小')
  54. parser.add_argument('--dropout', default=0.3, type=float,
  55. help='lstm中dropout的设置')
  56. parser.add_argument('--use_crf', type=str, default='True',
  57. help='是否使用Crf')
  58. return parser
  59. def get_parser(self):
  60. parser = self.parse()
  61. parser = self.initialize(parser)
  62. return parser.parse_args()