Updated run_configs.txt

Author: otiliastr

research/gam/run_configs.txt

@@ -18,7 +18,7 @@ MLP_128
     VATENT:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=cora  --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=128 --first_iter_original=True --num_samples_to_label=200  --max_num_iter_cotrain=1 --experiment_suffix='-NGM'   --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --always_agree=True --seed=1234 --use_graph=True --penalize_neg_agr=False --reg_weight_ll=0 --reg_weight_lu=0 --reg_weight_uu=0 --reg_weight_vat=1.0 --use_ent_min=True
     GAM:
-        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=cora  --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=128 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM'  --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=0.1 --reg_weight_uu=0.05 --always_agree=False --seed=1234 --keep_label_proportions=True --use_graph=True --penalize_neg_agr=False
+        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=cora  --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128 --num_pairs_reg=128 --first_iter_original=True --add_negative_edges_agr=True --aggregation_agr_inputs=dist --num_samples_to_label=200 --max_num_iter_cotrain=100 --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=1 --reg_weight_uu=0.5 --always_agree=False --seed=111 --keep_label_proportions=True --use_graph=True --penalize_neg_agr=False --min_confidence_new_label=0.9 --experiment_suffix='-GAM'
     GAM*:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=cpra  --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=128 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM_star'  --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=100 --reg_weight_uu=50 --always_agree=False --seed=1234 --keep_label_proportions=True --use_graph=False --penalize_neg_agr=True
 
@@ -42,7 +42,7 @@ GCN_128:
     NGM:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=cora --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128 --num_pairs_reg=512 --first_iter_original=True --num_samples_to_label=200 --max_num_iter_cotrain=1 --experiment_suffix='-NGM' --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --always_agree=True --seed=1234 --use_graph=True --penalize_neg_agr=False
     GAM:
-        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=cora  --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True --aggregation_agr_inputs=dist --num_samples_to_label=200  --max_num_iter_cotrain=1000 --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --experiment_suffix='-GAM' --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=100 --reg_weight_uu=50 --always_agree=False --seed=1234 --keep_label_proportions=True --use_graph=True --penalize_neg_agr=False --reg_weight_vat=0
+        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=cora  --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True --aggregation_agr_inputs=dist --num_samples_to_label=200  --max_num_iter_cotrain=1000 --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --experiment_suffix='-replaceLwithPred-noLabelProp' --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=1 --reg_weight_uu=0.5 --always_agree=False --seed=111 --keep_label_proportions=False --use_graph=True --penalize_neg_agr=False --experiment_suffix='-GAM'
     GAM*:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=cora  --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM_star'  --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=10.0 --reg_weight_uu=5 --always_agree=False --seed=1234  --keep_label_proportions=True --use_graph=False
     VAT:
@@ -57,7 +57,7 @@ MLP_128:
     NGM:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer  --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=128 --first_iter_original=True --num_samples_to_label=200  --max_num_iter_cotrain=1 --experiment_suffix='-NGM'   --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --always_agree=True --seed=1234 --use_graph=True --penalize_neg_agr=False
     GAM:
-        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer  --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=128 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM'   --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=10.0 --reg_weight_uu=5 --always_agree=False --seed=1234 --keep_label_proportions=True --use_graph=True --penalize_neg_agr=False
+        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer  --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=128 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=50  --max_num_iter_cotrain=100 --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=0.1 --reg_weight_uu=0.05 --always_agree=False --seed=333 --keep_label_proportions=True --use_graph=True --penalize_neg_agr=False --min_confidence_new_label=0.9 --experiment_suffix='-GAM'
     GAM*:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer  --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM_star'   --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=10 --reg_weight_uu=5 --always_agree=False --seed=1234
     VAT:
@@ -71,7 +71,7 @@ MLP_32_32_32_32:
     NGM:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer  --model_cls=mlp --model_agr=mlp --hidden_cls=32_32_32_32 -hidden_agr=32_32_32_32 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --num_samples_to_label=200  --max_num_iter_cotrain=1 --experiment_suffix='-NGM'   --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --always_agree=True --seed=1234 --use_graph=True --penalize_neg_agr=False
     GAM:
-        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer  --model_cls=mlp --model_agr=mlp --hidden_cls=32_32_32_32 -hidden_agr=32_32_32_32 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM'  --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=10 --reg_weight_uu=5 --always_agree=False --seed=1234 --keep_label_proportions=True --use_graph=True --penalize_neg_agr=False
+        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer  --model_cls=mlp --model_agr=mlp --hidden_cls=32_32_32_32 -hidden_agr=32_32_32_32 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM'  --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=10 --reg_weight_uu=5 --always_agree=False --seed=1234 --keep_label_proportions=True --use_graph=True --penalize_neg_agr=False --experiment_suffix='-GAM'
     GAM*:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer  --model_cls=mlp --model_agr=mlp --hidden_cls=32_32_32_32 -hidden_agr=32_32_32_32 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM_star'  --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=1.0 --reg_weight_uu=0.5 --always_agree=False --seed=1234 --keep_label_proportions=True --use_graph=False --penalize_neg_agr=False
     VAT:
@@ -85,7 +85,7 @@ GCN_128:
     NGM:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128 --num_pairs_reg=512 --first_iter_original=True --num_samples_to_label=200 --max_num_iter_cotrain=1 --experiment_suffix='-NGM' --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --always_agree=True --seed=1234 --use_graph=True --penalize_neg_agr=False
     GAM:
-        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer  --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM'   --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=100 --reg_weight_uu=50 --always_agree=False --seed=1234 --keep_label_proportions=True --use_graph=True --penalize_neg_agr=False --reg_weight_vat=0
+        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True --aggregation_agr_inputs=dist --num_samples_to_label=200 --max_num_iter_cotrain=50 --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=True --reg_weight_lu=0.01 --reg_weight_uu=0.005 --always_agree=False --seed=111 --keep_label_proportions=True --use_graph=True --penalize_neg_agr=False --experiment_suffix='-GAM'
     GAM*:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=citeseer  --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM_star'  --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=10.0 --reg_weight_uu=5 --always_agree=False --seed=1234  --keep_label_proportions=True --use_graph=False
     VAT:
@@ -100,7 +100,7 @@ MLP_128:
     NGM:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=pubmed --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128 --num_pairs_reg=128 --first_iter_original=True --num_samples_to_label=200 --max_num_iter_cotrain=1 --experiment_suffix='-NGM' --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --always_agree=True --seed=1234 --use_graph=True --penalize_neg_agr=False
     GAM:
-        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=pubmed --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128 --num_pairs_reg=128 --first_iter_original=True --add_negative_edges_agr=True --aggregation_agr_inputs=dist --num_samples_to_label=200 --max_num_iter_cotrain=1000 --experiment_suffix='-GAM' --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=10 --reg_weight_uu=5 --always_agree=False --seed=1234 --keep_label_proportions=False --use_graph=True --penalize_neg_agr=False
+        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=pubmed --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128 --num_pairs_reg=128 --first_iter_original=True --add_negative_edges_agr=True --aggregation_agr_inputs=dist --num_samples_to_label=200 --max_num_iter_cotrain=1000 --use_l2_cls=False --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=0.1 --reg_weight_uu=0.05 --keep_label_proportions=False --use_graph=True --penalize_neg_agr=False --seed=111 --experiment_suffix='-GAM'
     GAM*:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=pubmed  --model_cls=mlp --model_agr=mlp --hidden_cls=128 -hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000  --experiment_suffix='-GAM_star'  --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=1000 --reg_weight_uu=500 --always_agree=False --seed=1234
     VAT:
@@ -128,7 +128,7 @@ GCN_128:
     NGM:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=pubmed --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128 --num_pairs_reg=512 --first_iter_original=True --num_samples_to_label=200 --max_num_iter_cotrain=1 --experiment_suffix='-NGM' --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --always_agree=True --seed=1234 --use_graph=True --penalize_neg_agr=False
     GAM:
-        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=pubmed  --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM'   --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=100.0 --reg_weight_uu=50 --always_agree=False --seed=1234  --keep_label_proportions=False
+        python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=pubmed --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128 --num_pairs_reg=512 --num_samples_to_label=500 --max_num_iter_cotrain=50 --experiment_suffix='-GAM' --row_normalize=False --reg_weight_lu=1.0 --reg_weight_uu=0.5 --seed=111 --keep_label_proportions=False --weight_decay_cls=5e-4 --weight_decay_agr=5e-2 --min_confidence_new_label=0.7 --experiment_suffix='-GAM'
     GAM*:
         python3.7 -m gam.experiments.run_train_gam_graph --data_path=<path_to_data> --dataset_name=pubmed  --model_cls=gcn --model_agr=mlp --hidden_cls=128 --hidden_agr=128 --batch_size_cls=128 --batch_size_agr=128  --num_pairs_reg=512 --first_iter_original=True --add_negative_edges_agr=True  --aggregation_agr_inputs=dist  --num_samples_to_label=200  --max_num_iter_cotrain=1000 --experiment_suffix='-GAM_star-penNeg'   --first_iter_original=True --learning_rate_cls=1e-3 --num_iter_after_best_val_agr=2000 --num_iter_after_best_val_cls=2000 --row_normalize=False --reg_weight_lu=0.1 --reg_weight_uu=0.05 --always_agree=False --seed=1234 --use_graph=False --penalize_neg_agr=True
     VAT: