Fix core WST file
[jabaws.git] / TODO.txt
1 reset execution statistic in VM!\r
2 \r
3 + regerate javadoc\r
4 + server war - obtaining command line binaries \r
5 \r
6 Write help on \r
7  + execution stats\r
8  + new menu bar background \r
9  - new page background(?)\r
10  - merge developers help pages\r
11  - new VM \r
12  - new properties e.g. jar\r
13  - registry\r
14  - change log \r
15  - main page should point to JABA 1   \r
16  - Document the Limits for presets\r
17  - JAVA DOCS\r
18  - defaults changed - e.g. limits are disabled - explain how to enable\r
19  - cluster settings are commented out \r
20  - Describe requirements \r
21 Python > 2.2\r
22 Perl > 5.0\r
23 Java > 6\r
24 For compilation \r
25 C++\r
26 C\r
27 Gnu make\r
28    \r
29 - Check progress tracking on large sequence.\r
30 \r
31 - Add more detailed tests for webservices? \r
32 \r
33 + TODO write some help on the executable.properties within this file! \r
34 \r
35 - check that after binaries relocation build tasks point to correct locations!\r
36 \r
37 \r
38 add to help text: To disable a web service remove it from WEB-INF/sun-jaxws.xml descriptor\r
39 \r
40 rename jaba.war to jabaws.war and make sure jabaws context path is used throughout. \r
41 \r
42 \r
43 ? Replace conservation.Method with server.ws.Method and try building WS. If this does not work - get rid of Method\r
44 \r
45 integrate the above to tweak the size of the local job\r
46 \r
47 \r
48 (later) Add documentation on Presets, Parameters and Limits\r
49 (later) Explain how to define a limit\r
50 \r
51 Add test for repeated result collection from cluster engine\r
52 \r
53 \r
54 \r
55 DONE\r
56 \r
57 version 2\r
58 \r
59 DONE: Current stat collector has to rely on file dates! \r
60 DONE: Help information? - relative - client to add host and context info\r
61 DONE: statistics - result files \r
62 DONE: Good toString method for Limits (test with command line client -limits)\r
63 DONE: install JABA 1 stat server \r
64 DONE: Get path to Java executable from JAVA_HOME ? (for Jronn AACon) \r
65 \r
66 DONE:  GET rid of binaries/help directory!\r
67 DONE:  update binaries\r
68  DONE:  muscle binary version 3.8.31 for win/lin32/lin64 and sources, docs in website/prog_docs\r
69  DONE:  test Muscle on the cluster\r
70  DONE:  test Muscle compilation\r
71  DONE:  probcons up-to-date\r
72  DONE:  clustal up-to-date \r
73  DONE:  update tcoffee (8.99 latest) source code updated  docs updated \r
74  DONE:  tcoffee compilation for IA32 \r
75  DONE:  update Mafft (6.857 latest) for win/lin32/lin64 and sources, no docs updates\r
76 DONE:  make sure conf files are optional!\r
77 \r
78 Cluster stats: \r
79  DONE: cancelled should not be reported as incomplete!\r
80  DONE: ant task to clean up clean stat db task before packing web app\r
81  DONE: pack web apps with stat db (NOT TESTED!)\r
82  DONE: change input size bites\r
83  DONE: add help info for each column in the detailed job list table\r
84  DONE: replace default -1 with ? \r
85  DONE: delete and re-import the database to fix clustal input staff    \r
86 \r
87 DONE:  Test all WS as names from Executables were removed\r
88 DONE:  Add default names for input and output in every executable and use them consistently\r
89   throughts (e.g. in all WS). Best of all use the same name from SceletalExectuable \r
90   For statistics. \r
91 \r
92 DONE:  FIXED Conecting to JABAWS version 2 service\r
93   09-Feb-2011 15:27:53 compbio.ws.client.Jws2Client connect\r
94   INFO: Connected successfully!\r
95   Exception in thread "main" java.lang.NullPointerException\r
96         at compbio.ws.client.MetadataHelper.getParametersList(MetadataHelper.java:30)\r
97         at compbio.ws.client.Jws2Client.<init>(Jws2Client.java:179)\r
98         at compbio.ws.client.Jws2Client.main(Jws2Client.java:483)\r
99 \r
100 DONE:  ScoreManager should output scores properly \r
101 DONE:  Allow empty Parameters and Preset files! \r
102 DONE:  Check the WS input and reject it on submission rather then of access with error message\r
103 \r
104 DONE: Add registry service to query services status\r
105 DONE: Refactor web services checker to enable a programmatic access to its methods.\r
106 DONE: Finish the client\r
107 DONE: Add AACon ws\r
108 DONE: Add iupred ws http://iupred.enzim.hu/\r
109 DONE: Add globprot ws - does not report raw scores, just regions\r
110 DONE: Add ronn ws\r
111 DONE: Define limits for presets - if required\r
112 DONE: Add logging facility to WSTester so more details of the problem can be reported\r
113 DONE: Statistics collector for engines (number of operations/timing)\r
114 \r
115 \r
116 version 1\r
117 \r
118 DONE: LocalExecutor service must be shutdown on web application undeploy event not on JVM shutdown. \r
119       This is because JVM is still running even after web application is shut down!\r
120 DONE: Use absolute path for web site download links as archives are not included into distro!\r
121 DONE: Rearrange web site docs - add links to the top of the page to the topics discussed below\r
122 DONE: Put the documentation for various executables online\r
123 DONE: Make left gradient image one-two characters larger + change "For developer ->For Developers"\r
124 DONE: test local/cluster execution - test Load balancer\r
125 DONE: Improve SimpleWS client so it can be scripted against: give user alignment and accept parameters\r
126 DONE: Make a configuration tester class (check that configuration files point to the executables, and they can be executed)\r
127 DONE: PUT CLIENT JAR INTO WEB-INF/LIB - most likely need to get rid of dist prefix in the build file\r
128 DONE: Different packages for download and dundee. generic vs specific settings. \r
129 DONE: JAVADOC\r
130 DONE: Refactor EngineResourcesLeak tester to hide a map implementation!\r
131 DONE: Compile executables for linux in the most generic way\r
132 DONE: Make different log4j configuration files / web services logs.\r
133 DONE: System manual\r
134 DONE: Developer doc\r
135 DONE: How to\r
136 DONE: Prepare different packages\r
137 DONE: extract commonly used names into variable in the build script\r
138 DONE: Test for high load conditions (TestNG?)\r
139 DONE: (low) Fix: Started jobs with unknown completion status reported as FINISHED by  msaws.getJobStatus(taskId) (see SimpleWSClient)\r
140 DONE: fix compile binaries script\r
141 DONE: Make script to change executable flag for linux systems\r
142 DONE: jobsout must be created within war\r
143 DONE: enable relative paths for local engine conf temp dir\r
144 COUND NOT REPRODUCE: fix cluster job status - RUNNING -> UNDEFINED\r
145 DONE: throw JobSubmission exception with appropriate method instead - (low) code discoverer/tester for ws - e.g. after war deployment to find out what actually works\r
146 DONE: fix build scripts after reorganising project\r
147 DONE: package as war file for deployment\r
148 DONE: package for jalview distro for local execution\r
149 DONE: reorganise project into independent chunks\r
150 DONE: test Parameter & Option toCommand method\r
151 DONE: Replace WS methods with new CommandBuilder.toCommand()\r
152 DONE: Setting default values is validated as external method \r
153 DONE: Refactoring to extract data model, and engines is performed\r
154 DONE: Default value is adopted for passing new Option values to server side\r
155 DONE: Converting Options to commands delegated to CommandBuilder  \r
156 DONE: Make Arguments mutable to facilitate default value setting for WS\r
157 DONE: Matrix files for alignment programme\r
158 DONE: Clean up testcases\r
159 DONE: Replace List<String> as command line parameters abstraction to dedicated CommandBuilder class \r
160 DONE: Parallel execution for tcoffee jobs\r
161 DONE: Copyright added\r
162 DONE: WRAP ProbCons\r
163 DONE: think about time limits and cluster parameters for parallel execution - NativeSpecs for cluster is implemented\r
164 DONE: (low) Use for WS: (@WebParam(name = "name") String name) {\r
165 DONE: Implement rough policy for runtimes (e.g. do not run excessively long tasks on the local machine if cluster is available)\r
166 DONE: Write tomcat conf to expose WS\r
167 DONE: access control to web.xml\r
168 DONE: Statistics collector for WS\r
169 DONE: implements limits for web services\r
170 DONE: WS clients must be able to connect to a web service given the service url. \r
171 e.i. ws URL should not be compiled in using wsimport, but determined from \r
172 the configuration file.  \r
173 \r
174 DONE: Could not find configuration files if run from within servlet container\r
175 DONE: Add ways to get engine based on the key for everything but submission of the new tasks \r
176 DONE: Add cache to Cluster JOBID - so that at least jobs for which results have not been collected is cached.\r
177 DONE: FINISHED overrides FINISHED with time stamp!\r
178 DONE: Consider think about JobStatus and StatFileStatus\r
179 DONE: a method to read 3 chars at the beginning of the file to indicate a progress is added\r
180 DONE: ConfiguredExecutable<?> al = sexec.getResults(jobId); || Alignment ?\r
181 DONE: ClustalW - OUTput must be set !\r
182 DONE: Add accessor methods to get a DUMP of the process output \r
183 DONE: FilePuller should be cached to avoid excessive fs exercise\r
184 DONE: Test List of the processes (ensure no memory leaks)\r
185 PART DONE - On the client on shutdown remember the task list - server tasks could be loaded and executed from saved run configurations, client should decide for themselves what they want\r
186 DONE: Persist the task list to enable later result collection on the server side\r
187 DONE Wrap TCoffee\r
188 DONE: improve parameters handling - new schema + update for all parameters\r
189 DONE: Cluster jobs report submitting and result collecting/finishing time (for sync jobs only(!)) and cluster jobid in the corresponding files  \r
190 DONE: Local jobs report starting and finising times in files with corresponding names in the task directory  \r
191 DONE: Generalize getResult method for MSA runners\r
192 DONE: Create test suits\r
193 DONE: Convert junit tests to TestNG\r
194 DONE: Redirect output & error streams to the named files as some processed need this  \r
195 DONE: Extract generilyzed class with most of the method for individual executable to use\r
196 DONE: Refit wrappers to use the generalised class to avoid duplication  \r
197 DONE: Pass environment variable settings to the executable\r
198 DONE: Complete AsyncExecutors implementation\r
199 DONE: Look to unify methods for engines\r
200 DONE: Provide way around of generated directory setup for test cases(?)\r
201 DONE: Fix the test cases for local engine (need to set directory on executable explicitly)\r
202 DONE: Make log files for processes err and out for local execution\r
203 DONE: Trace where AsyncExcel called with null Executable and attempts to create a new directory repeatedly\r
204 DONE: directory generator\r
205 DONE: tests for cancel \r
206 DONE tests for getStatus\r
207 DONE  ws async\r
208 DONE: parametrized clustal operations\r
209 DONE: test large datasets handling \r
210 DONE: write load balancer \r
211 DONE: (low) task persistance\r
212 DONE: Look at CancellableTask if with Sync and AsyncExecutor \r