08a3f52c87492c3cc86d9424edc9ffb674fdc7ba
[jalview.git] / src / jalview / analysis / AAFrequency.java
1 /*
2  * Jalview - A Sequence Alignment Editor and Viewer (Version 2.8)
3  * Copyright (C) 2012 J Procter, AM Waterhouse, LM Lui, J Engelhardt, G Barton, M Clamp, S Searle
4  * 
5  * This file is part of Jalview.
6  * 
7  * Jalview is free software: you can redistribute it and/or
8  * modify it under the terms of the GNU General Public License 
9  * as published by the Free Software Foundation, either version 3 of the License, or (at your option) any later version.
10  *  
11  * Jalview is distributed in the hope that it will be useful, but 
12  * WITHOUT ANY WARRANTY; without even the implied warranty 
13  * of MERCHANTABILITY or FITNESS FOR A PARTICULAR 
14  * PURPOSE.  See the GNU General Public License for more details.
15  * 
16  * You should have received a copy of the GNU General Public License along with Jalview.  If not, see <http://www.gnu.org/licenses/>.
17  */
18 package jalview.analysis;
19
20 import java.util.*;
21
22 import jalview.util.Format;
23 import jalview.datamodel.*;
24
25 /**
26  * Takes in a vector or array of sequences and column start and column end and
27  * returns a new Hashtable[] of size maxSeqLength, if Hashtable not supplied.
28  * This class is used extensively in calculating alignment colourschemes that
29  * depend on the amount of conservation in each alignment column.
30  * 
31  * @author $author$
32  * @version $Revision$
33  */
34 public class AAFrequency
35 {
36   // No need to store 1000s of strings which are not
37   // visible to the user.
38   public static final String MAXCOUNT = "C";
39
40   public static final String MAXRESIDUE = "R";
41
42   public static final String PID_GAPS = "G";
43
44   public static final String PID_NOGAPS = "N";
45
46   public static final String PROFILE = "P";
47
48   public static final Hashtable[] calculate(List<SequenceI> list,
49           int start, int end)
50   {
51     return calculate(list, start, end, false);
52   }
53
54   public static final Hashtable[] calculate(List<SequenceI> sequences,
55           int start, int end, boolean profile)
56   {
57     SequenceI[] seqs = new SequenceI[sequences.size()];
58     int width = 0;
59     synchronized (sequences)
60     {
61       for (int i = 0; i < sequences.size(); i++)
62       {
63         seqs[i] = sequences.get(i);
64         if (seqs[i].getLength() > width)
65         {
66           width = seqs[i].getLength();
67         }
68       }
69
70       Hashtable[] reply = new Hashtable[width];
71
72       if (end >= width)
73       {
74         end = width;
75       }
76
77       calculate(seqs, start, end, reply, profile);
78       return reply;
79     }
80   }
81
82   public static final void calculate(SequenceI[] sequences, int start,
83           int end, Hashtable[] result)
84   {
85     calculate(sequences, start, end, result, false);
86   }
87
88   public static final void calculate(SequenceI[] sequences, int start,
89           int end, Hashtable[] result, boolean profile)
90   {
91     Hashtable residueHash;
92     int maxCount, nongap, i, j, v, jSize = sequences.length;
93     String maxResidue;
94     char c='-';
95     float percentage;
96
97     int[] values = new int[255];
98
99     char[] seq;
100
101     for (i = start; i < end; i++)
102     {
103       residueHash = new Hashtable();
104       maxCount = 0;
105       maxResidue = "";
106       nongap = 0;
107       values = new int[255];
108       
109       for (j = 0; j < jSize; j++)
110       {
111         if (sequences[j] == null)
112         {
113           System.err
114                   .println("WARNING: Consensus skipping null sequence - possible race condition.");
115           continue;
116         }
117         seq = sequences[j].getSequence();
118         if (seq.length > i)
119         {
120           c = seq[i];
121
122           if (c == '.' || c == ' ')
123           {
124             c = '-';
125           }
126
127           if (c == '-')
128           {
129             values['-']++;
130             continue;
131           }
132           else if ('a' <= c && c <= 'z')
133           {
134             c -= 32; // ('a' - 'A');
135           }
136
137           nongap++;
138           values[c]++;
139
140         }
141         else
142         {
143           values['-']++;
144         }
145       }
146       if (jSize==1)
147       {
148         maxResidue = String.valueOf(c);
149         maxCount=1;
150       } else {for (v = 'A'; v < 'Z'; v++)
151       {
152         if (values[v] < 2 || values[v] < maxCount)
153         {
154           continue;
155         }
156
157         if (values[v] > maxCount)
158         {
159           maxResidue = String.valueOf((char) v);
160         }
161         else if (values[v] == maxCount)
162         {
163           maxResidue += String.valueOf((char) v);
164         }
165         maxCount = values[v];
166       }
167       }
168       if (maxResidue.length() == 0)
169       {
170         maxResidue = "-";
171       }
172       if (profile)
173       {
174         residueHash.put(PROFILE, new int[][]
175         { values, new int[]
176         { jSize, nongap } });
177       }
178       residueHash.put(MAXCOUNT, new Integer(maxCount));
179       residueHash.put(MAXRESIDUE, maxResidue);
180
181       percentage = ((float) maxCount * 100) / jSize;
182       residueHash.put(PID_GAPS, new Float(percentage));
183
184       if (nongap>0) {
185         percentage = ((float) maxCount * 100) / nongap;
186         residueHash.put(PID_NOGAPS, new Float(percentage));
187       }
188       result[i] = residueHash;
189     }
190   }
191
192   /**
193    * Compute all or part of the annotation row from the given consensus
194    * hashtable
195    * 
196    * @param consensus
197    *          - pre-allocated annotation row
198    * @param hconsensus
199    * @param iStart
200    * @param width
201    * @param ignoreGapsInConsensusCalculation
202    * @param includeAllConsSymbols
203    * @param nseq 
204    */
205   public static void completeConsensus(AlignmentAnnotation consensus,
206           Hashtable[] hconsensus, int iStart, int width,
207           boolean ignoreGapsInConsensusCalculation,
208           boolean includeAllConsSymbols, long nseq)
209   {
210     completeConsensus(consensus, hconsensus, iStart, width,
211             ignoreGapsInConsensusCalculation, includeAllConsSymbols, null, nseq); // new
212                                                                             // char[]
213     // { 'A', 'C', 'G', 'T', 'U' });
214   }
215
216   public static void completeConsensus(AlignmentAnnotation consensus,
217           Hashtable[] hconsensus, int iStart, int width,
218           boolean ignoreGapsInConsensusCalculation,
219           boolean includeAllConsSymbols, char[] alphabet, long nseq)
220   {
221     float tval, value;
222     if (consensus == null || consensus.annotations == null
223             || consensus.annotations.length < width)
224     {
225       // called with a bad alignment annotation row - wait for it to be
226       // initialised properly
227       return;
228     }
229     String fmtstr="%3.1f";
230     int precision=0;
231     while (nseq>=10) {
232       precision++;
233       nseq/=10;
234     }
235     final Format fmt;
236     if (precision>1)
237     {
238       //if (precision>2)
239       {
240         fmtstr = "%"+(2+precision)+"."+(precision)+"f";
241       }
242       fmt = new Format(fmtstr);
243     } else {
244       fmt = null;
245     }
246     for (int i = iStart; i < width; i++)
247     {
248       Hashtable hci;
249       if (i >= hconsensus.length || ((hci = hconsensus[i]) == null))
250       {
251         // happens if sequences calculated over were shorter than alignment
252         // width
253         consensus.annotations[i] = null;
254         continue;
255       }
256       value = 0;
257       Float fv;
258       if (ignoreGapsInConsensusCalculation)
259       {
260         fv = (Float) hci.get(AAFrequency.PID_NOGAPS);
261       }
262       else
263       {
264         fv = (Float) hci.get(AAFrequency.PID_GAPS);
265       }
266       if (fv == null)
267       {
268         consensus.annotations[i] = null;
269         // data has changed below us .. give up and
270         continue;
271       }
272       value = fv.floatValue();
273       String maxRes = hci.get(AAFrequency.MAXRESIDUE).toString();
274       String mouseOver = hci.get(AAFrequency.MAXRESIDUE) + " ";
275       if (maxRes.length() > 1)
276       {
277         mouseOver = "[" + maxRes + "] ";
278         maxRes = "+";
279       }
280       int[][] profile = (int[][]) hci.get(AAFrequency.PROFILE);
281       if (profile != null && includeAllConsSymbols)
282       {
283         mouseOver = "";
284         if (alphabet != null)
285         {
286           for (int c = 0; c < alphabet.length; c++)
287           {
288             tval = profile[0][alphabet[c]] * 100f
289                     / profile[1][ignoreGapsInConsensusCalculation ? 1 : 0];
290             mouseOver += ((c == 0) ? "" : "; ") + alphabet[c] + " "
291                     + ((fmt!=null) ? fmt.form(tval) : ((int) tval)) + "%";
292           }
293         }
294         else
295         {
296           Object[] ca = new Object[profile[0].length];
297           float[] vl = new float[profile[0].length];
298           for (int c = 0; c < ca.length; c++)
299           {
300             ca[c] = new char[]
301             { (char) c };
302             vl[c] = profile[0][c];
303           }
304           ;
305           jalview.util.QuickSort.sort(vl, ca);
306           for (int p = 0, c = ca.length - 1; profile[0][((char[]) ca[c])[0]] > 0; c--)
307           {
308             if (((char[]) ca[c])[0] != '-')
309             {
310               tval = profile[0][((char[]) ca[c])[0]]
311                       * 100f
312                       / profile[1][ignoreGapsInConsensusCalculation ? 1 : 0];
313               mouseOver += ((p == 0) ? "" : "; ") + ((char[]) ca[c])[0]
314                       + " " + ((fmt!=null) ? fmt.form(tval) : ((int) tval)) + "%";
315               p++;
316
317             }
318           }
319
320         }
321       }
322       else
323       {
324         mouseOver += ((fmt!=null) ? fmt.form(value) : ((int) value)) + "%";
325       }
326       consensus.annotations[i] = new Annotation(maxRes, mouseOver, ' ',
327               value);
328     }
329   }
330
331   /**
332    * get the sorted profile for the given position of the consensus
333    * 
334    * @param hconsensus
335    * @return
336    */
337   public static int[] extractProfile(Hashtable hconsensus,
338           boolean ignoreGapsInConsensusCalculation)
339   {
340     int[] rtnval = new int[64];
341     int[][] profile = (int[][]) hconsensus.get(AAFrequency.PROFILE);
342     if (profile == null)
343       return null;
344     Object[] ca = new Object[profile[0].length];
345     float[] vl = new float[profile[0].length];
346     for (int c = 0; c < ca.length; c++)
347     {
348       ca[c] = new char[]
349       { (char) c };
350       vl[c] = profile[0][c];
351     }
352     ;
353     jalview.util.QuickSort.sort(vl, ca);
354     rtnval[0] = 2;
355     rtnval[1] = 0;
356     for (int c = ca.length - 1; profile[0][((char[]) ca[c])[0]] > 0; c--)
357     {
358       if (((char[]) ca[c])[0] != '-')
359       {
360         rtnval[rtnval[0]++] = ((char[]) ca[c])[0];
361         rtnval[rtnval[0]] = (int) (profile[0][((char[]) ca[c])[0]] * 100f / profile[1][ignoreGapsInConsensusCalculation ? 1
362                 : 0]);
363         rtnval[1] += rtnval[rtnval[0]++];
364       }
365     }
366     return rtnval;
367   }
368 }