JAL-1233 JAL-1576 copy constructor to propagate helix colours and applyTo implementat...
[jalview.git] / src / jalview / io / StockholmFile.java
1 /*
2  * Jalview - A Sequence Alignment Editor and Viewer ($$Version-Rel$$)
3  * Copyright (C) $$Year-Rel$$ The Jalview Authors
4  * 
5  * This file is part of Jalview.
6  * 
7  * Jalview is free software: you can redistribute it and/or
8  * modify it under the terms of the GNU General Public License 
9  * as published by the Free Software Foundation, either version 3
10  * of the License, or (at your option) any later version.
11  *  
12  * Jalview is distributed in the hope that it will be useful, but 
13  * WITHOUT ANY WARRANTY; without even the implied warranty 
14  * of MERCHANTABILITY or FITNESS FOR A PARTICULAR 
15  * PURPOSE.  See the GNU General Public License for more details.
16  * 
17  * You should have received a copy of the GNU General Public License
18  * along with Jalview.  If not, see <http://www.gnu.org/licenses/>.
19  * The Jalview Authors are detailed in the 'AUTHORS' file.
20  */
21 /*
22  * This extension was written by Benjamin Schuster-Boeckler at sanger.ac.uk
23  */
24 package jalview.io;
25
26 import jalview.datamodel.AlignmentAnnotation;
27 import jalview.datamodel.AlignmentI;
28 import jalview.datamodel.Annotation;
29 import jalview.datamodel.DBRefEntry;
30 import jalview.datamodel.Mapping;
31 import jalview.datamodel.Sequence;
32 import jalview.datamodel.SequenceFeature;
33 import jalview.datamodel.SequenceI;
34 import jalview.util.Format;
35 import jalview.util.MessageManager;
36
37 import java.io.BufferedReader;
38 import java.io.FileReader;
39 import java.io.IOException;
40 import java.util.ArrayList;
41 import java.util.Enumeration;
42 import java.util.Hashtable;
43 import java.util.LinkedHashMap;
44 import java.util.List;
45 import java.util.Map;
46 import java.util.StringTokenizer;
47 import java.util.Vector;
48
49 import com.stevesoft.pat.Regex;
50
51 import fr.orsay.lri.varna.exceptions.ExceptionUnmatchedClosingParentheses;
52 import fr.orsay.lri.varna.factories.RNAFactory;
53 import fr.orsay.lri.varna.models.rna.RNA;
54
55 // import org.apache.log4j.*;
56
57 /**
58  * This class is supposed to parse a Stockholm format file into Jalview There
59  * are TODOs in this class: we do not know what the database source and version
60  * is for the file when parsing the #GS= AC tag which associates accessions with
61  * sequences. Database references are also not parsed correctly: a separate
62  * reference string parser must be added to parse the database reference form
63  * into Jalview's local representation.
64  * 
65  * @author bsb at sanger.ac.uk
66  * @author Natasha Shersnev (Dundee, UK) (Stockholm file writer)
67  * @author Lauren Lui (UCSC, USA) (RNA secondary structure annotation import as
68  *         stockholm)
69  * @author Anne Menard (Paris, FR) (VARNA parsing of Stockholm file data)
70  * @version 0.3 + jalview mods
71  * 
72  */
73 public class StockholmFile extends AlignFile
74 {
75   // static Logger logger = Logger.getLogger("jalview.io.StockholmFile");
76   protected ArrayList<RNA> result;
77
78   StringBuffer out; // output buffer
79
80   AlignmentI al;
81
82   public StockholmFile()
83   {
84   }
85
86   /**
87    * Creates a new StockholmFile object for output.
88    */
89   public StockholmFile(AlignmentI al)
90   {
91     this.al = al;
92   }
93
94   public StockholmFile(String inFile, String type) throws IOException
95   {
96     super(inFile, type);
97   }
98
99   public StockholmFile(FileParse source) throws IOException
100   {
101     super(source);
102   }
103
104   public void initData()
105   {
106     super.initData();
107   }
108
109   /**
110    * Parse a file in Stockholm format into Jalview's data model using VARNA
111    * 
112    * @throws IOException
113    *           If there is an error with the input file
114    */
115   public void parse_with_VARNA(java.io.File inFile) throws IOException
116   {
117     FileReader fr = null;
118     fr = new FileReader(inFile);
119
120     BufferedReader r = new BufferedReader(fr);
121     result = null;
122     try
123     {
124       result = RNAFactory.loadSecStrStockholm(r);
125     } catch (ExceptionUnmatchedClosingParentheses umcp)
126     {
127       errormessage = "Unmatched parentheses in annotation. Aborting ("
128               + umcp.getMessage() + ")";
129       throw new IOException(umcp);
130     }
131     // DEBUG System.out.println("this is the secondary scructure:"
132     // +result.size());
133     SequenceI[] seqs = new SequenceI[result.size()];
134     String id = null;
135     for (int i = 0; i < result.size(); i++)
136     {
137       // DEBUG System.err.println("Processing i'th sequence in Stockholm file")
138       RNA current = result.get(i);
139
140       String seq = current.getSeq();
141       String rna = current.getStructDBN(true);
142       // DEBUG System.out.println(seq);
143       // DEBUG System.err.println(rna);
144       int begin = 0;
145       int end = seq.length() - 1;
146       id = safeName(getDataName());
147       seqs[i] = new Sequence(id, seq, begin, end);
148       String[] annot = new String[rna.length()];
149       Annotation[] ann = new Annotation[rna.length()];
150       for (int j = 0; j < rna.length(); j++)
151       {
152         annot[j] = rna.substring(j, j + 1);
153
154       }
155
156       for (int k = 0; k < rna.length(); k++)
157       {
158         ann[k] = new Annotation(annot[k], "",
159                 jalview.schemes.ResidueProperties.getRNASecStrucState(
160                         annot[k]).charAt(0), 0f);
161
162       }
163       AlignmentAnnotation align = new AlignmentAnnotation("Sec. str.",
164               current.getID(), ann);
165
166       seqs[i].addAlignmentAnnotation(align);
167       seqs[i].setRNA(result.get(i));
168       this.annotations.addElement(align);
169     }
170     this.setSeqs(seqs);
171
172   }
173
174   /**
175    * Parse a file in Stockholm format into Jalview's data model. The file has to
176    * be passed at construction time
177    * 
178    * @throws IOException
179    *           If there is an error with the input file
180    */
181   public void parse() throws IOException
182   {
183     StringBuffer treeString = new StringBuffer();
184     String treeName = null;
185     // --------------- Variable Definitions -------------------
186     String line;
187     String version;
188     // String id;
189     Hashtable seqAnn = new Hashtable(); // Sequence related annotations
190     LinkedHashMap<String, String> seqs = new LinkedHashMap<String, String>();
191     Regex p, r, rend, s, x;
192     // Temporary line for processing RNA annotation
193     // String RNAannot = "";
194
195     // ------------------ Parsing File ----------------------
196     // First, we have to check that this file has STOCKHOLM format, i.e. the
197     // first line must match
198
199     r = new Regex("# STOCKHOLM ([\\d\\.]+)");
200     if (!r.search(nextLine()))
201     {
202       throw new IOException(
203               MessageManager
204                       .getString("exception.stockholm_invalid_format"));
205     }
206     else
207     {
208       version = r.stringMatched(1);
209
210       // logger.debug("Stockholm version: " + version);
211     }
212
213     // We define some Regexes here that will be used regularily later
214     rend = new Regex("^\\s*\\/\\/"); // Find the end of an alignment
215     p = new Regex("(\\S+)\\/(\\d+)\\-(\\d+)"); // split sequence id in
216     // id/from/to
217     s = new Regex("(\\S+)\\s+(\\S*)\\s+(.*)"); // Parses annotation subtype
218     r = new Regex("#=(G[FSRC]?)\\s+(.*)"); // Finds any annotation line
219     x = new Regex("(\\S+)\\s+(\\S+)"); // split id from sequence
220
221     // Convert all bracket types to parentheses (necessary for passing to VARNA)
222     Regex openparen = new Regex("(<|\\[)", "(");
223     Regex closeparen = new Regex("(>|\\])", ")");
224
225     // Detect if file is RNA by looking for bracket types
226     Regex detectbrackets = new Regex("(<|>|\\[|\\]|\\(|\\))");
227
228     rend.optimize();
229     p.optimize();
230     s.optimize();
231     r.optimize();
232     x.optimize();
233     openparen.optimize();
234     closeparen.optimize();
235
236     while ((line = nextLine()) != null)
237     {
238       if (line.length() == 0)
239       {
240         continue;
241       }
242       if (rend.search(line))
243       {
244         // End of the alignment, pass stuff back
245         this.noSeqs = seqs.size();
246
247         String seqdb, dbsource = null;
248         Regex pf = new Regex("PF[0-9]{5}(.*)"); // Finds AC for Pfam
249         Regex rf = new Regex("RF[0-9]{5}(.*)"); // Finds AC for Rfam
250         if (getAlignmentProperty("AC") != null)
251         {
252           String dbType = getAlignmentProperty("AC").toString();
253           if (pf.search(dbType))
254           {
255             // PFAM Alignment - so references are typically from Uniprot
256             dbsource = "PFAM";
257           }
258           else if (rf.search(dbType))
259           {
260             dbsource = "RFAM";
261           }
262         }
263         // logger.debug("Number of sequences: " + this.noSeqs);
264         for (Map.Entry<String, String> skey : seqs.entrySet())
265         {
266           // logger.debug("Processing sequence " + acc);
267           String acc = skey.getKey();
268           String seq = skey.getValue();
269           if (maxLength < seq.length())
270           {
271             maxLength = seq.length();
272           }
273           int start = 1;
274           int end = -1;
275           String sid = acc;
276           /*
277            * Retrieve hash of annotations for this accession Associate
278            * Annotation with accession
279            */
280           Hashtable accAnnotations = null;
281
282           if (seqAnn != null && seqAnn.containsKey(acc))
283           {
284             accAnnotations = (Hashtable) seqAnn.remove(acc);
285             // TODO: add structures to sequence
286           }
287
288           // Split accession in id and from/to
289           if (p.search(acc))
290           {
291             sid = p.stringMatched(1);
292             start = Integer.parseInt(p.stringMatched(2));
293             end = Integer.parseInt(p.stringMatched(3));
294           }
295           // logger.debug(sid + ", " + start + ", " + end);
296
297           Sequence seqO = new Sequence(sid, seq, start, end);
298           // Add Description (if any)
299           if (accAnnotations != null && accAnnotations.containsKey("DE"))
300           {
301             String desc = (String) accAnnotations.get("DE");
302             seqO.setDescription((desc == null) ? "" : desc);
303           }
304           // Add DB References (if any)
305           if (accAnnotations != null && accAnnotations.containsKey("DR"))
306           {
307             String dbr = (String) accAnnotations.get("DR");
308             if (dbr != null && dbr.indexOf(";") > -1)
309             {
310               String src = dbr.substring(0, dbr.indexOf(";"));
311               String acn = dbr.substring(dbr.indexOf(";") + 1);
312               jalview.util.DBRefUtils.parseToDbRef(seqO, src, "0", acn);
313             }
314           }
315
316           if (accAnnotations != null && accAnnotations.containsKey("AC"))
317           {
318             if (dbsource != null)
319             {
320               String dbr = (String) accAnnotations.get("AC");
321               if (dbr != null)
322               {
323                 // we could get very clever here - but for now - just try to
324                 // guess accession type from source of alignment plus structure
325                 // of accession
326                 guessDatabaseFor(seqO, dbr, dbsource);
327
328               }
329             }
330             // else - do what ? add the data anyway and prompt the user to
331             // specify what references these are ?
332           }
333
334           Hashtable features = null;
335           // We need to adjust the positions of all features to account for gaps
336           try
337           {
338             features = (Hashtable) accAnnotations.remove("features");
339           } catch (java.lang.NullPointerException e)
340           {
341             // loggerwarn("Getting Features for " + acc + ": " +
342             // e.getMessage());
343             // continue;
344           }
345           // if we have features
346           if (features != null)
347           {
348             int posmap[] = seqO.findPositionMap();
349             Enumeration i = features.keys();
350             while (i.hasMoreElements())
351             {
352               // TODO: parse out secondary structure annotation as annotation
353               // row
354               // TODO: parse out scores as annotation row
355               // TODO: map coding region to core jalview feature types
356               String type = i.nextElement().toString();
357               Hashtable content = (Hashtable) features.remove(type);
358
359               // add alignment annotation for this feature
360               String key = type2id(type);
361               if (key != null)
362               {
363                 if (accAnnotations != null
364                         && accAnnotations.containsKey(key))
365                 {
366                   Vector vv = (Vector) accAnnotations.get(key);
367                   for (int ii = 0; ii < vv.size(); ii++)
368                   {
369                     AlignmentAnnotation an = (AlignmentAnnotation) vv
370                             .elementAt(ii);
371                     seqO.addAlignmentAnnotation(an);
372                     annotations.add(an);
373                   }
374                 }
375               }
376
377               Enumeration j = content.keys();
378               while (j.hasMoreElements())
379               {
380                 String desc = j.nextElement().toString();
381                 String ns = content.get(desc).toString();
382                 char[] byChar = ns.toCharArray();
383                 for (int k = 0; k < byChar.length; k++)
384                 {
385                   char c = byChar[k];
386                   if (!(c == ' ' || c == '_' || c == '-' || c == '.')) // PFAM
387                   // uses
388                   // '.'
389                   // for
390                   // feature
391                   // background
392                   {
393                     int new_pos = posmap[k]; // look up nearest seqeunce
394                     // position to this column
395                     SequenceFeature feat = new SequenceFeature(type, desc,
396                             new_pos, new_pos, 0f, null);
397
398                     seqO.addSequenceFeature(feat);
399                   }
400                 }
401               }
402
403             }
404
405           }
406           // garbage collect
407
408           // logger.debug("Adding seq " + acc + " from " + start + " to " + end
409           // + ": " + seq);
410           this.seqs.addElement(seqO);
411         }
412         return; // finished parsing this segment of source
413       }
414       else if (!r.search(line))
415       {
416         // System.err.println("Found sequence line: " + line);
417
418         // Split sequence in sequence and accession parts
419         if (!x.search(line))
420         {
421           // logger.error("Could not parse sequence line: " + line);
422           throw new IOException(MessageManager.formatMessage(
423                   "exception.couldnt_parse_sequence_line", new String[]
424                   { line }));
425         }
426         String ns = seqs.get(x.stringMatched(1));
427         if (ns == null)
428         {
429           ns = "";
430         }
431         ns += x.stringMatched(2);
432
433         seqs.put(x.stringMatched(1), ns);
434       }
435       else
436       {
437         String annType = r.stringMatched(1);
438         String annContent = r.stringMatched(2);
439
440         // System.err.println("type:" + annType + " content: " + annContent);
441
442         if (annType.equals("GF"))
443         {
444           /*
445            * Generic per-File annotation, free text Magic features: #=GF NH
446            * <tree in New Hampshire eXtended format> #=GF TN <Unique identifier
447            * for the next tree> Pfam descriptions: 7. DESCRIPTION OF FIELDS
448            * 
449            * Compulsory fields: ------------------
450            * 
451            * AC Accession number: Accession number in form PFxxxxx.version or
452            * PBxxxxxx. ID Identification: One word name for family. DE
453            * Definition: Short description of family. AU Author: Authors of the
454            * entry. SE Source of seed: The source suggesting the seed members
455            * belong to one family. GA Gathering method: Search threshold to
456            * build the full alignment. TC Trusted Cutoff: Lowest sequence score
457            * and domain score of match in the full alignment. NC Noise Cutoff:
458            * Highest sequence score and domain score of match not in full
459            * alignment. TP Type: Type of family -- presently Family, Domain,
460            * Motif or Repeat. SQ Sequence: Number of sequences in alignment. AM
461            * Alignment Method The order ls and fs hits are aligned to the model
462            * to build the full align. // End of alignment.
463            * 
464            * Optional fields: ----------------
465            * 
466            * DC Database Comment: Comment about database reference. DR Database
467            * Reference: Reference to external database. RC Reference Comment:
468            * Comment about literature reference. RN Reference Number: Reference
469            * Number. RM Reference Medline: Eight digit medline UI number. RT
470            * Reference Title: Reference Title. RA Reference Author: Reference
471            * Author RL Reference Location: Journal location. PI Previous
472            * identifier: Record of all previous ID lines. KW Keywords: Keywords.
473            * CC Comment: Comments. NE Pfam accession: Indicates a nested domain.
474            * NL Location: Location of nested domains - sequence ID, start and
475            * end of insert.
476            * 
477            * Obsolete fields: ----------- AL Alignment method of seed: The
478            * method used to align the seed members.
479            */
480           // Let's save the annotations, maybe we'll be able to do something
481           // with them later...
482           Regex an = new Regex("(\\w+)\\s*(.*)");
483           if (an.search(annContent))
484           {
485             if (an.stringMatched(1).equals("NH"))
486             {
487               treeString.append(an.stringMatched(2));
488             }
489             else if (an.stringMatched(1).equals("TN"))
490             {
491               if (treeString.length() > 0)
492               {
493                 if (treeName == null)
494                 {
495                   treeName = "Tree " + (getTreeCount() + 1);
496                 }
497                 addNewickTree(treeName, treeString.toString());
498               }
499               treeName = an.stringMatched(2);
500               treeString = new StringBuffer();
501             }
502             setAlignmentProperty(an.stringMatched(1), an.stringMatched(2));
503           }
504         }
505         else if (annType.equals("GS"))
506         {
507           // Generic per-Sequence annotation, free text
508           /*
509            * Pfam uses these features: Feature Description ---------------------
510            * ----------- AC <accession> ACcession number DE <freetext>
511            * DEscription DR <db>; <accession>; Database Reference OS <organism>
512            * OrganiSm (species) OC <clade> Organism Classification (clade, etc.)
513            * LO <look> Look (Color, etc.)
514            */
515           if (s.search(annContent))
516           {
517             String acc = s.stringMatched(1);
518             String type = s.stringMatched(2);
519             String content = s.stringMatched(3);
520             // TODO: store DR in a vector.
521             // TODO: store AC according to generic file db annotation.
522             Hashtable ann;
523             if (seqAnn.containsKey(acc))
524             {
525               ann = (Hashtable) seqAnn.get(acc);
526             }
527             else
528             {
529               ann = new Hashtable();
530             }
531             ann.put(type, content);
532             seqAnn.put(acc, ann);
533           }
534           else
535           {
536             // throw new IOException(MessageManager.formatMessage(
537             // "exception.error_parsing_line", new String[] { line }));
538             System.err.println(">> missing annotation: " + line);
539           }
540         }
541         else if (annType.equals("GC"))
542         {
543           // Generic per-Column annotation, exactly 1 char per column
544           // always need a label.
545           if (x.search(annContent))
546           {
547             // parse out and create alignment annotation directly.
548             parseAnnotationRow(annotations, x.stringMatched(1),
549                     x.stringMatched(2));
550           }
551         }
552         else if (annType.equals("GR"))
553         {
554           // Generic per-Sequence AND per-Column markup, exactly 1 char per
555           // column
556           /*
557            * Feature Description Markup letters ------- -----------
558            * -------------- SS Secondary Structure [HGIEBTSCX] SA Surface
559            * Accessibility [0-9X] (0=0%-10%; ...; 9=90%-100%) TM TransMembrane
560            * [Mio] PP Posterior Probability [0-9*] (0=0.00-0.05; 1=0.05-0.15;
561            * *=0.95-1.00) LI LIgand binding [*] AS Active Site [*] IN INtron (in
562            * or after) [0-2]
563            */
564           if (s.search(annContent))
565           {
566             String acc = s.stringMatched(1);
567             String type = s.stringMatched(2);
568             String seq = new String(s.stringMatched(3));
569             String description = null;
570             // Check for additional information about the current annotation
571             // We use a simple string tokenizer here for speed
572             StringTokenizer sep = new StringTokenizer(seq, " \t");
573             description = sep.nextToken();
574             if (sep.hasMoreTokens())
575             {
576               seq = sep.nextToken();
577             }
578             else
579             {
580               seq = description;
581               description = new String();
582             }
583             // sequence id with from-to fields
584
585             Hashtable ann;
586             // Get an object with all the annotations for this sequence
587             if (seqAnn.containsKey(acc))
588             {
589               // logger.debug("Found annotations for " + acc);
590               ann = (Hashtable) seqAnn.get(acc);
591             }
592             else
593             {
594               // logger.debug("Creating new annotations holder for " + acc);
595               ann = new Hashtable();
596               seqAnn.put(acc, ann);
597             }
598             // TODO test structure, call parseAnnotationRow with vector from
599             // hashtable for specific sequence
600             Hashtable features;
601             // Get an object with all the content for an annotation
602             if (ann.containsKey("features"))
603             {
604               // logger.debug("Found features for " + acc);
605               features = (Hashtable) ann.get("features");
606             }
607             else
608             {
609               // logger.debug("Creating new features holder for " + acc);
610               features = new Hashtable();
611               ann.put("features", features);
612             }
613
614             Hashtable content;
615             if (features.containsKey(this.id2type(type)))
616             {
617               // logger.debug("Found content for " + this.id2type(type));
618               content = (Hashtable) features.get(this.id2type(type));
619             }
620             else
621             {
622               // logger.debug("Creating new content holder for " +
623               // this.id2type(type));
624               content = new Hashtable();
625               features.put(this.id2type(type), content);
626             }
627             String ns = (String) content.get(description);
628             if (ns == null)
629             {
630               ns = "";
631             }
632             ns += seq;
633             content.put(description, ns);
634
635             // if(type.equals("SS")){
636             Hashtable strucAnn;
637             if (seqAnn.containsKey(acc))
638             {
639               strucAnn = (Hashtable) seqAnn.get(acc);
640             }
641             else
642             {
643               strucAnn = new Hashtable();
644             }
645
646             Vector<AlignmentAnnotation> newStruc = new Vector<AlignmentAnnotation>();
647             parseAnnotationRow(newStruc, type, ns);
648             for (AlignmentAnnotation alan : newStruc)
649             {
650               alan.visible = false;
651             }
652             // annotations.addAll(newStruc);
653             strucAnn.put(type, newStruc);
654             seqAnn.put(acc, strucAnn);
655           }
656           // }
657           else
658           {
659             System.err
660                     .println("Warning - couldn't parse sequence annotation row line:\n"
661                             + line);
662             // throw new IOException("Error parsing " + line);
663           }
664         }
665         else
666         {
667           throw new IOException(MessageManager.formatMessage(
668                   "exception.unknown_annotation_detected", new String[]
669                   { annType, annContent }));
670         }
671       }
672     }
673     if (treeString.length() > 0)
674     {
675       if (treeName == null)
676       {
677         treeName = "Tree " + (1 + getTreeCount());
678       }
679       addNewickTree(treeName, treeString.toString());
680     }
681   }
682
683   /**
684    * Demangle an accession string and guess the originating sequence database
685    * for a given sequence
686    * 
687    * @param seqO
688    *          sequence to be annotated
689    * @param dbr
690    *          Accession string for sequence
691    * @param dbsource
692    *          source database for alignment (PFAM or RFAM)
693    */
694   private void guessDatabaseFor(Sequence seqO, String dbr, String dbsource)
695   {
696     DBRefEntry dbrf = null;
697     List<DBRefEntry> dbrs = new ArrayList<DBRefEntry>();
698     String seqdb = "Unknown", sdbac = "" + dbr;
699     int st = -1, en = -1, p;
700     if ((st = sdbac.indexOf("/")) > -1)
701     {
702       String num, range = sdbac.substring(st + 1);
703       sdbac = sdbac.substring(0, st);
704       if ((p = range.indexOf("-")) > -1)
705       {
706         p++;
707         if (p < range.length())
708         {
709           num = range.substring(p).trim();
710           try
711           {
712             en = Integer.parseInt(num);
713           } catch (NumberFormatException x)
714           {
715             // could warn here that index is invalid
716             en = -1;
717           }
718         }
719       }
720       else
721       {
722         p = range.length();
723       }
724       num = range.substring(0, p).trim();
725       try
726       {
727         st = Integer.parseInt(num);
728       } catch (NumberFormatException x)
729       {
730         // could warn here that index is invalid
731         st = -1;
732       }
733     }
734     if (dbsource.equals("PFAM"))
735     {
736       seqdb = "UNIPROT";
737       if (sdbac.indexOf(".") > -1)
738       {
739         // strip of last subdomain
740         sdbac = sdbac.substring(0, sdbac.indexOf("."));
741         dbrf = jalview.util.DBRefUtils.parseToDbRef(seqO, seqdb, dbsource,
742                 sdbac);
743         if (dbrf != null)
744         {
745           dbrs.add(dbrf);
746         }
747       }
748       dbrf = jalview.util.DBRefUtils.parseToDbRef(seqO, dbsource, dbsource,
749               dbr);
750       if (dbr != null)
751       {
752         dbrs.add(dbrf);
753       }
754     }
755     else
756     {
757       seqdb = "EMBL"; // total guess - could be ENA, or something else these
758                       // days
759       if (sdbac.indexOf(".") > -1)
760       {
761         // strip off last subdomain
762         sdbac = sdbac.substring(0, sdbac.indexOf("."));
763         dbrf = jalview.util.DBRefUtils.parseToDbRef(seqO, seqdb, dbsource,
764                 sdbac);
765         if (dbrf != null)
766         {
767           dbrs.add(dbrf);
768         }
769       }
770
771       dbrf = jalview.util.DBRefUtils.parseToDbRef(seqO, dbsource, dbsource,
772               dbr);
773       if (dbrf != null)
774       {
775         dbrs.add(dbrf);
776       }
777     }
778     if (st != -1 && en != -1)
779     {
780       for (DBRefEntry d : dbrs)
781       {
782         jalview.util.MapList mp = new jalview.util.MapList(new int[]
783         { seqO.getStart(), seqO.getEnd() }, new int[]
784         { st, en }, 1, 1);
785         jalview.datamodel.Mapping mping = new Mapping(mp);
786         d.setMap(mping);
787       }
788     }
789   }
790
791   protected static AlignmentAnnotation parseAnnotationRow(
792           Vector annotation, String label, String annots)
793   {
794     String convert1, convert2 = null;
795
796     // Convert all bracket types to parentheses
797     Regex openparen = new Regex("(<|\\[)", "(");
798     Regex closeparen = new Regex("(>|\\])", ")");
799
800     // Detect if file is RNA by looking for bracket types
801     Regex detectbrackets = new Regex("(<|>|\\[|\\]|\\(|\\))");
802
803     convert1 = openparen.replaceAll(annots);
804     convert2 = closeparen.replaceAll(convert1);
805     annots = convert2;
806
807     String type = label;
808     if (label.contains("_cons"))
809     {
810       type = (label.indexOf("_cons") == label.length() - 5) ? label
811               .substring(0, label.length() - 5) : label;
812     }
813     boolean ss = false;
814     type = id2type(type);
815     if (type.equals("secondary structure"))
816     {
817       ss = true;
818     }
819     // decide on secondary structure or not.
820     Annotation[] els = new Annotation[annots.length()];
821     for (int i = 0; i < annots.length(); i++)
822     {
823       String pos = annots.substring(i, i + 1);
824       Annotation ann;
825       ann = new Annotation(pos, "", ' ', 0f); // 0f is 'valid' null - will not
826       // be written out
827       if (ss)
828       {
829         //if (" .-_".indexOf(pos) == -1)
830         {
831           if (detectbrackets.search(pos))
832           {
833             ann.secondaryStructure = jalview.schemes.ResidueProperties
834                     .getRNASecStrucState(pos).charAt(0);
835           }
836           else
837           {
838             ann.secondaryStructure = jalview.schemes.ResidueProperties
839                     .getDssp3state(pos).charAt(0);
840           }
841
842           if (ann.secondaryStructure == pos.charAt(0))
843           {
844             ann.displayCharacter = ""; // null; // " ";
845           }
846           else
847           {
848             ann.displayCharacter = " " + ann.displayCharacter;
849           }
850         }
851         
852       }
853
854       els[i] = ann;
855     }
856     AlignmentAnnotation annot = null;
857     Enumeration e = annotation.elements();
858     while (e.hasMoreElements())
859     {
860       annot = (AlignmentAnnotation) e.nextElement();
861       if (annot.label.equals(type))
862       {
863         break;
864       }
865       annot = null;
866     }
867     if (annot == null)
868     {
869       annot = new AlignmentAnnotation(type, type, els);
870       annotation.addElement(annot);
871     }
872     else
873     {
874       Annotation[] anns = new Annotation[annot.annotations.length
875               + els.length];
876       System.arraycopy(annot.annotations, 0, anns, 0,
877               annot.annotations.length);
878       System.arraycopy(els, 0, anns, annot.annotations.length, els.length);
879       annot.annotations = anns;
880       // System.out.println("else: ");
881     }
882     return annot;
883   }
884
885   public String print(SequenceI[] s)
886   {
887     // find max length of id
888     int max = 0;
889     int maxid = 0;
890     int in = 0;
891     Hashtable dataRef = null;
892     while ((in < s.length) && (s[in] != null))
893     {
894       String tmp = printId(s[in]);
895       if (s[in].getSequence().length > max)
896       {
897         max = s[in].getSequence().length;
898       }
899
900       if (tmp.length() > maxid)
901       {
902         maxid = tmp.length();
903       }
904       if (s[in].getDBRef() != null)
905       {
906         for (int idb = 0; idb < s[in].getDBRef().length; idb++)
907         {
908           if (dataRef == null)
909           {
910             dataRef = new Hashtable();
911           }
912
913           String datAs1 = s[in].getDBRef()[idb].getSource().toString()
914                   + " ; "
915                   + s[in].getDBRef()[idb].getAccessionId().toString();
916           dataRef.put(tmp, datAs1);
917         }
918       }
919       in++;
920     }
921     maxid += 9;
922     int i = 0;
923
924     // output database type
925     if (al.getProperties() != null)
926     {
927       if (!al.getProperties().isEmpty())
928       {
929         Enumeration key = al.getProperties().keys();
930         Enumeration val = al.getProperties().elements();
931         while (key.hasMoreElements())
932         {
933           out.append("#=GF " + key.nextElement() + " " + val.nextElement());
934           out.append(newline);
935         }
936       }
937     }
938
939     // output database accessions
940     if (dataRef != null)
941     {
942       Enumeration en = dataRef.keys();
943       while (en.hasMoreElements())
944       {
945         Object idd = en.nextElement();
946         String type = (String) dataRef.remove(idd);
947         out.append(new Format("%-" + (maxid - 2) + "s").form("#=GS "
948                 + idd.toString() + " "));
949         if (type.contains("PFAM") || type.contains("RFAM"))
950         {
951
952           out.append(" AC " + type.substring(type.indexOf(";") + 1));
953         }
954         else
955         {
956           out.append(" DR " + type + " ");
957         }
958         out.append(newline);
959       }
960     }
961
962     // output annotations
963     while (i < s.length && s[i] != null)
964     {
965       if (s[i].getDatasetSequence() != null)
966       {
967         SequenceI ds = s[i].getDatasetSequence();
968         AlignmentAnnotation[] alAnot;
969         Annotation[] ann;
970         Annotation annot;
971         alAnot = s[i].getAnnotation();
972         String feature = "";
973         if (alAnot != null)
974         {
975           for (int j = 0; j < alAnot.length; j++)
976           {
977             if (ds.getSequenceFeatures() != null)
978             {
979               feature = ds.getSequenceFeatures()[0].type;
980             }
981             // ?bug - feature may still have previous loop value
982             String key = type2id(feature);
983
984             if (key == null)
985             {
986               continue;
987             }
988
989             // out.append("#=GR ");
990             out.append(new Format("%-" + maxid + "s").form("#=GR "
991                     + printId(s[i]) + " " + key + " "));
992             ann = alAnot[j].annotations;
993             boolean isrna = alAnot[j].isValidStruc();
994             String seq = "";
995             for (int k = 0; k < ann.length; k++)
996             {
997               seq += outputCharacter(key, k, isrna, ann, s[i]);
998             }
999             out.append(seq);
1000             out.append(newline);
1001           }
1002         }
1003       }
1004
1005       out.append(new Format("%-" + maxid + "s").form(printId(s[i]) + " "));
1006       out.append(s[i].getSequenceAsString());
1007       out.append(newline);
1008       i++;
1009     }
1010
1011     // alignment annotation
1012     AlignmentAnnotation aa;
1013     if (al.getAlignmentAnnotation() != null)
1014     {
1015       for (int ia = 0; ia < al.getAlignmentAnnotation().length; ia++)
1016       {
1017         aa = al.getAlignmentAnnotation()[ia];
1018         if (aa.autoCalculated || !aa.visible || aa.sequenceRef != null)
1019         {
1020           continue;
1021         }
1022         String seq = "";
1023         String label;
1024         String key = "";
1025         if (aa.label.equals("seq"))
1026         {
1027           label = "seq_cons";
1028         }
1029         else
1030         {
1031           key = type2id(aa.label.toLowerCase());
1032           if (key == null)
1033           {
1034             label = aa.label;
1035           }
1036           else
1037           {
1038             label = key + "_cons";
1039           }
1040         }
1041         if (label == null)
1042         {
1043           label = aa.label;
1044         }
1045         label = label.replace(" ", "_");
1046
1047         out.append(new Format("%-" + maxid + "s").form("#=GC " + label
1048                 + " "));
1049         boolean isrna = aa.isValidStruc();
1050         for (int j = 0; j < aa.annotations.length; j++)
1051         {
1052           seq += outputCharacter(key, j, isrna, aa.annotations, null);
1053         }
1054         out.append(seq);
1055         out.append(newline);
1056       }
1057     }
1058     return out.toString();
1059   }
1060
1061   /**
1062    * add an annotation character to the output row
1063    * 
1064    * @param seq
1065    * @param key
1066    * @param k
1067    * @param isrna
1068    * @param ann
1069    * @param sequenceI
1070    */
1071   private char outputCharacter(String key, int k,
1072           boolean isrna, Annotation[] ann, SequenceI sequenceI)
1073   {
1074     char seq = ' ';
1075     Annotation annot = ann[k];
1076     String ch = (annot == null) ? ((sequenceI == null) ? "-" : Character
1077             .toString(sequenceI.getCharAt(k)))
1078             : annot.displayCharacter;
1079     if (key != null && key.equals("SS"))
1080     {
1081       if (annot == null)
1082       {
1083         // sensible gap character if one is available or make one up
1084         return sequenceI == null ? '-' : sequenceI
1085                 .getCharAt(k);
1086       }
1087       else
1088       {
1089         // valid secondary structure AND no alternative label (e.g. ' B')
1090         if (annot.secondaryStructure > ' ' && ch.length() < 2)
1091         {
1092           return annot.secondaryStructure;
1093         }
1094       }
1095     }
1096
1097     if (ch.length() == 0)
1098     {
1099       seq = '.';
1100     }
1101     else if (ch.length() == 1)
1102     {
1103       seq = ch.charAt(0);
1104     }
1105     else if (ch.length() > 1)
1106     {
1107       seq = ch.charAt(1);
1108     }
1109     return seq;
1110   }
1111
1112   public String print()
1113   {
1114     out = new StringBuffer();
1115     out.append("# STOCKHOLM 1.0");
1116     out.append(newline);
1117     print(getSeqsAsArray());
1118
1119     out.append("//");
1120     out.append(newline);
1121     return out.toString();
1122   }
1123
1124   private static Hashtable typeIds = null;
1125   static
1126   {
1127     if (typeIds == null)
1128     {
1129       typeIds = new Hashtable();
1130       typeIds.put("SS", "secondary structure");
1131       typeIds.put("SA", "surface accessibility");
1132       typeIds.put("TM", "transmembrane");
1133       typeIds.put("PP", "posterior probability");
1134       typeIds.put("LI", "ligand binding");
1135       typeIds.put("AS", "active site");
1136       typeIds.put("IN", "intron");
1137       typeIds.put("IR", "interacting residue");
1138       typeIds.put("AC", "accession");
1139       typeIds.put("OS", "organism");
1140       typeIds.put("CL", "class");
1141       typeIds.put("DE", "description");
1142       typeIds.put("DR", "reference");
1143       typeIds.put("LO", "look");
1144       typeIds.put("RF", "reference positions");
1145
1146     }
1147   }
1148
1149   protected static String id2type(String id)
1150   {
1151     if (typeIds.containsKey(id))
1152     {
1153       return (String) typeIds.get(id);
1154     }
1155     System.err.println("Warning : Unknown Stockholm annotation type code "
1156             + id);
1157     return id;
1158   }
1159
1160   protected static String type2id(String type)
1161   {
1162     String key = null;
1163     Enumeration e = typeIds.keys();
1164     while (e.hasMoreElements())
1165     {
1166       Object ll = e.nextElement();
1167       if (typeIds.get(ll).toString().equals(type))
1168       {
1169         key = (String) ll;
1170         break;
1171       }
1172     }
1173     if (key != null)
1174     {
1175       return key;
1176     }
1177     System.err.println("Warning : Unknown Stockholm annotation type: "
1178             + type);
1179     return key;
1180   }
1181
1182   /**
1183    * make a friendly ID string.
1184    * 
1185    * @param dataName
1186    * @return truncated dataName to after last '/'
1187    */
1188   private String safeName(String dataName)
1189   {
1190     int b = 0;
1191     while ((b = dataName.indexOf("/")) > -1 && b < dataName.length())
1192     {
1193       dataName = dataName.substring(b + 1).trim();
1194
1195     }
1196     int e = (dataName.length() - dataName.indexOf(".")) + 1;
1197     dataName = dataName.substring(1, e).trim();
1198     return dataName;
1199   }
1200 }