1ddeb20213479bbbf2a0ff0c7639b1307c2f3550
[jalview.git] / src / jalview / analysis / CrossRef.java
1 /*
2  * Jalview - A Sequence Alignment Editor and Viewer ($$Version-Rel$$)
3  * Copyright (C) $$Year-Rel$$ The Jalview Authors
4  * 
5  * This file is part of Jalview.
6  * 
7  * Jalview is free software: you can redistribute it and/or
8  * modify it under the terms of the GNU General Public License 
9  * as published by the Free Software Foundation, either version 3
10  * of the License, or (at your option) any later version.
11  *  
12  * Jalview is distributed in the hope that it will be useful, but 
13  * WITHOUT ANY WARRANTY; without even the implied warranty 
14  * of MERCHANTABILITY or FITNESS FOR A PARTICULAR 
15  * PURPOSE.  See the GNU General Public License for more details.
16  * 
17  * You should have received a copy of the GNU General Public License
18  * along with Jalview.  If not, see <http://www.gnu.org/licenses/>.
19  * The Jalview Authors are detailed in the 'AUTHORS' file.
20  */
21 package jalview.analysis;
22
23 import jalview.datamodel.AlignedCodonFrame;
24 import jalview.datamodel.Alignment;
25 import jalview.datamodel.AlignmentI;
26 import jalview.datamodel.DBRefEntry;
27 import jalview.datamodel.Mapping;
28 import jalview.datamodel.Sequence;
29 import jalview.datamodel.SequenceFeature;
30 import jalview.datamodel.SequenceI;
31 import jalview.util.DBRefUtils;
32 import jalview.util.MapList;
33 import jalview.ws.SequenceFetcherFactory;
34 import jalview.ws.seqfetcher.ASequenceFetcher;
35
36 import java.util.ArrayList;
37 import java.util.Iterator;
38 import java.util.List;
39
40 /**
41  * Functions for cross-referencing sequence databases.
42  * 
43  * @author JimP
44  * 
45  */
46 public class CrossRef
47 {
48   /*
49    * the dataset of the alignment for which we are searching for 
50    * cross-references; in some cases we may resolve xrefs by 
51    * searching in the dataset
52    */
53   private AlignmentI dataset;
54
55   /*
56    * the sequences for which we are seeking cross-references
57    */
58   private SequenceI[] fromSeqs;
59
60   /**
61    * matcher built from dataset
62    */
63   SequenceIdMatcher matcher;
64
65   /**
66    * sequences found by cross-ref searches to fromSeqs
67    */
68   List<SequenceI> rseqs;
69
70   /**
71    * Constructor
72    * 
73    * @param seqs
74    *          the sequences for which we are seeking cross-references
75    * @param ds
76    *          the containing alignment dataset (may be searched to resolve
77    *          cross-references)
78    */
79   public CrossRef(SequenceI[] seqs, AlignmentI ds)
80   {
81     fromSeqs = seqs;
82     dataset = ds.getDataset() == null ? ds : ds.getDataset();
83   }
84
85   /**
86    * Returns a list of distinct database sources for which sequences have either
87    * <ul>
88    * <li>a (dna-to-protein or protein-to-dna) cross-reference</li>
89    * <li>an indirect cross-reference - a (dna-to-protein or protein-to-dna)
90    * reference from another sequence in the dataset which has a cross-reference
91    * to a direct DBRefEntry on the given sequence</li>
92    * </ul>
93    * 
94    * @param dna
95    *          - when true, cross-references *from* dna returned. When false,
96    *          cross-references *from* protein are returned
97    * @return
98    */
99   public List<String> findXrefSourcesForSequences(boolean dna)
100   {
101     List<String> sources = new ArrayList<String>();
102     for (SequenceI seq : fromSeqs)
103     {
104       if (seq != null)
105       {
106         findXrefSourcesForSequence(seq, dna, sources);
107       }
108     }
109     return sources;
110   }
111
112   /**
113    * Returns a list of distinct database sources for which a sequence has either
114    * <ul>
115    * <li>a (dna-to-protein or protein-to-dna) cross-reference</li>
116    * <li>an indirect cross-reference - a (dna-to-protein or protein-to-dna)
117    * reference from another sequence in the dataset which has a cross-reference
118    * to a direct DBRefEntry on the given sequence</li>
119    * </ul>
120    * 
121    * @param seq
122    *          the sequence whose dbrefs we are searching against
123    * @param fromDna
124    *          when true, context is DNA - so sources identifying protein
125    *          products will be returned.
126    * @param sources
127    *          a list of sources to add matches to
128    */
129   void findXrefSourcesForSequence(SequenceI seq, boolean fromDna,
130           List<String> sources)
131   {
132     /*
133      * first find seq's xrefs (dna-to-peptide or peptide-to-dna)
134      */
135     DBRefEntry[] rfs = DBRefUtils.selectDbRefs(!fromDna, seq.getDBRefs());
136     addXrefsToSources(rfs, sources);
137     if (dataset != null)
138     {
139       /*
140        * find sequence's direct (dna-to-dna, peptide-to-peptide) xrefs
141        */
142       DBRefEntry[] lrfs = DBRefUtils.selectDbRefs(fromDna, seq.getDBRefs());
143       List<SequenceI> foundSeqs = new ArrayList<SequenceI>();
144
145       /*
146        * find sequences in the alignment which xref one of these DBRefs
147        * i.e. is xref-ed to a common sequence identifier
148        */
149       searchDatasetXrefs(fromDna, seq, lrfs, foundSeqs, null);
150
151       /*
152        * add those sequences' (dna-to-peptide or peptide-to-dna) dbref sources
153        */
154       for (SequenceI rs : foundSeqs)
155       {
156         DBRefEntry[] xrs = DBRefUtils
157                 .selectDbRefs(!fromDna, rs.getDBRefs());
158         addXrefsToSources(xrs, sources);
159       }
160     }
161   }
162
163   /**
164    * Helper method that adds the source identifiers of some cross-references to
165    * a (non-redundant) list of database sources
166    * 
167    * @param xrefs
168    * @param sources
169    */
170   void addXrefsToSources(DBRefEntry[] xrefs, List<String> sources)
171   {
172     if (xrefs != null)
173     {
174       for (DBRefEntry ref : xrefs)
175       {
176         /*
177          * avoid duplication e.g. ENSEMBL and Ensembl
178          */
179         String source = DBRefUtils.getCanonicalName(ref.getSource());
180         if (!sources.contains(source))
181         {
182           sources.add(source);
183         }
184       }
185     }
186   }
187
188   /**
189    * Attempts to find cross-references from the sequences provided in the
190    * constructor to the given source database. Cross-references may be found
191    * <ul>
192    * <li>in dbrefs on the sequence which hold a mapping to a sequence
193    * <ul>
194    * <li>provided with a fetched sequence (e.g. ENA translation), or</li>
195    * <li>populated previously after getting cross-references</li>
196    * </ul>
197    * <li>as other sequences in the alignment which share a dbref identifier with
198    * the sequence</li>
199    * <li>by fetching from the remote database</li>
200    * </ul>
201    * The cross-referenced sequences, and mappings to them, are added to the
202    * alignment dataset.
203    * 
204    * @param source
205    * @return cross-referenced sequences (as dataset sequences)
206    */
207   public Alignment findXrefSequences(String source, boolean fromDna)
208   {
209
210     rseqs = new ArrayList<SequenceI>();
211     AlignedCodonFrame cf = new AlignedCodonFrame();
212     matcher = new SequenceIdMatcher(
213             dataset.getSequences());
214
215     for (SequenceI seq : fromSeqs)
216     {
217       SequenceI dss = seq;
218       while (dss.getDatasetSequence() != null)
219       {
220         dss = dss.getDatasetSequence();
221       }
222       boolean found = false;
223       DBRefEntry[] xrfs = DBRefUtils
224               .selectDbRefs(!fromDna, dss.getDBRefs());
225       // ENST & ENSP comes in to both Protein and nucleotide, so we need to
226       // filter them
227       // out later.
228       if ((xrfs == null || xrfs.length == 0) && dataset != null)
229       {
230         /*
231          * found no suitable dbrefs on sequence - look for sequences in the
232          * alignment which share a dbref with this one
233          */
234         DBRefEntry[] lrfs = DBRefUtils.selectDbRefs(fromDna,
235                 seq.getDBRefs());
236
237         /*
238          * find sequences (except this one!), of complementary type,
239          *  which have a dbref to an accession id for this sequence,
240          *  and add them to the results
241          */
242         found = searchDatasetXrefs(fromDna, dss, lrfs, rseqs, cf);
243       }
244       if (xrfs == null && !found)
245       {
246         /*
247          * no dbref to source on this sequence or matched
248          * complementary sequence in the dataset 
249          */
250         continue;
251       }
252       List<DBRefEntry> sourceRefs = DBRefUtils.searchRefsForSource(xrfs,
253               source);
254       Iterator<DBRefEntry> refIterator = sourceRefs.iterator();
255       // At this point, if we are retrieving Ensembl, we still don't filter out
256       // ENST when looking for protein crossrefs.
257       while (refIterator.hasNext())
258       {
259         DBRefEntry xref = refIterator.next();
260         found = false;
261         // we're only interested in coding cross-references, not
262         // locus->transcript
263         if (xref.hasMap() && xref.getMap().getMap().isTripletMap())
264         {
265           SequenceI mappedTo = xref.getMap().getTo();
266           if (mappedTo != null)
267           {
268             /*
269              * dbref contains the sequence it maps to; add it to the
270              * results unless we have done so already (could happen if 
271              * fetching xrefs for sequences which have xrefs in common)
272              * for example: UNIPROT {P0CE19, P0CE20} -> EMBL {J03321, X06707}
273              */
274             found = true;
275             /*
276              * problem: matcher.findIdMatch() is lenient - returns a sequence
277              * with a dbref to the search arg e.g. ENST for ENSP - wrong
278              * but findInDataset() matches ENSP when looking for Uniprot...
279              */
280             SequenceI matchInDataset = findInDataset(xref);
281             if (matchInDataset != null && xref.getMap().getTo() != null
282                     && matchInDataset != xref.getMap().getTo())
283             {
284               System.err
285                       .println("Implementation problem (reopen JAL-2154): CrossRef.findInDataset seems to have recovered a different sequence than the one explicitly mapped for xref."
286                               + "Found:"
287                               + matchInDataset
288                               + "\nExpected:"
289                               + xref.getMap().getTo()
290                               + "\nFor xref:"
291                               + xref);
292             }
293             /*matcher.findIdMatch(mappedTo);*/
294             if (matchInDataset != null)
295             {
296               if (!rseqs.contains(matchInDataset))
297               {
298                 rseqs.add(matchInDataset);
299               }
300               // even if rseqs contained matchInDataset - check mappings between
301               // these seqs are added
302               // need to try harder to only add unique mappings
303               if (xref.getMap().getMap().isTripletMap()
304                       && dataset.getMapping(seq, matchInDataset) == null
305                       && cf.getMappingBetween(seq, matchInDataset) == null)
306               {
307                 // materialise a mapping for highlighting between these
308                 // sequences
309                 if (fromDna)
310                 {
311                   cf.addMap(dss, matchInDataset, xref.getMap().getMap(),
312                           xref.getMap().getMappedFromId());
313                 }
314                 else
315                 {
316                   cf.addMap(matchInDataset, dss, xref.getMap().getMap()
317                           .getInverse(), xref.getMap().getMappedFromId());
318                 }
319               }
320
321               refIterator.remove();
322               continue;
323             }
324             // TODO: need to determine if this should be a deriveSequence
325             SequenceI rsq = new Sequence(mappedTo);
326             rseqs.add(rsq);
327             if (xref.getMap().getMap().isTripletMap())
328             {
329               // get sense of map correct for adding to product alignment.
330               if (fromDna)
331               {
332                 // map is from dna seq to a protein product
333                 cf.addMap(dss, rsq, xref.getMap().getMap(), xref.getMap()
334                         .getMappedFromId());
335               }
336               else
337               {
338                 // map should be from protein seq to its coding dna
339                 cf.addMap(rsq, dss, xref.getMap().getMap().getInverse(),
340                         xref.getMap().getMappedFromId());
341               }
342             }
343           }
344         }
345
346         if (!found)
347         {
348           SequenceI matchedSeq = matcher.findIdMatch(xref.getSource() + "|"
349                   + xref.getAccessionId());
350           // if there was a match, check it's at least the right type of
351           // molecule!
352           if (matchedSeq != null && matchedSeq.isProtein() == fromDna)
353           {
354             if (constructMapping(seq, matchedSeq, xref, cf, fromDna))
355             {
356               found = true;
357             }
358           }
359         }
360
361         if (!found)
362         {
363           // do a bit more work - search for sequences with references matching
364           // xrefs on this sequence.
365           found = searchDataset(fromDna, dss, xref, rseqs, cf, false);
366         }
367         if (found)
368         {
369           refIterator.remove();
370         }
371       }
372
373       /*
374        * fetch from source database any dbrefs we haven't resolved up to here
375        */
376       if (!sourceRefs.isEmpty())
377       {
378         retrieveCrossRef(sourceRefs, seq, xrfs, fromDna, cf);
379       }
380     }
381
382     Alignment ral = null;
383     if (rseqs.size() > 0)
384     {
385       ral = new Alignment(rseqs.toArray(new SequenceI[rseqs.size()]));
386       if (!cf.isEmpty())
387       {
388         dataset.addCodonFrame(cf);
389       }
390     }
391     return ral;
392   }
393
394   private void retrieveCrossRef(List<DBRefEntry> sourceRefs, SequenceI seq,
395           DBRefEntry[] xrfs, boolean fromDna, AlignedCodonFrame cf)
396   {
397     ASequenceFetcher sftch = SequenceFetcherFactory.getSequenceFetcher();
398     SequenceI[] retrieved = null;
399     SequenceI dss = seq.getDatasetSequence() == null ? seq : seq
400             .getDatasetSequence();
401     // first filter in case we are retrieving crossrefs that have already been
402     // retrieved. this happens for cases where a database record doesn't yield
403     // protein products for CDS
404     removeAlreadyRetrievedSeqs(sourceRefs, fromDna);
405     if (sourceRefs.size() == 0)
406     {
407       // no more work to do! We already had all requested sequence records in
408       // the dataset.
409       return;
410     }
411     try
412     {
413       retrieved = sftch.getSequences(sourceRefs, !fromDna);
414     } catch (Exception e)
415     {
416       System.err
417               .println("Problem whilst retrieving cross references for Sequence : "
418                       + seq.getName());
419       e.printStackTrace();
420     }
421
422     if (retrieved != null)
423     {
424       updateDbrefMappings(seq, xrfs, retrieved, cf, fromDna);
425       for (SequenceI retrievedSequence : retrieved)
426       {
427         // dataset gets contaminated ccwith non-ds sequences. why ??!
428         // try: Ensembl -> Nuc->Ensembl, Nuc->Uniprot-->Protein->EMBL->
429         SequenceI retrievedDss = retrievedSequence.getDatasetSequence() == null ? retrievedSequence
430                 : retrievedSequence.getDatasetSequence();
431         importCrossRefSeq(cf, dss, retrievedDss);
432         rseqs.add(retrievedDss);
433         if (dataset.findIndex(retrievedDss) == -1)
434         {
435           dataset.addSequence(retrievedDss);
436           matcher.add(retrievedDss);
437         }
438       }
439     }
440   }
441
442   /**
443    * Search dataset for sequences with a primary reference contained in
444    * sourceRefs.
445    * 
446    * @param sourceRefs
447    *          - list of references to filter.
448    * @param fromDna
449    *          - type of sequence to search for matching primary reference.
450    */
451   private void removeAlreadyRetrievedSeqs(List<DBRefEntry> sourceRefs,
452           boolean fromDna)
453   {
454     DBRefEntry[] dbrSourceSet = sourceRefs.toArray(new DBRefEntry[0]);
455     for (SequenceI sq : dataset.getSequences())
456     {
457       boolean dupeFound = false;
458       // !fromDna means we are looking only for nucleotide sequences, not
459       // protein
460       if (sq.isProtein() == fromDna)
461       {
462         for (DBRefEntry dbr : sq.getPrimaryDBRefs())
463         {
464           for (DBRefEntry found : DBRefUtils.searchRefs(dbrSourceSet, dbr))
465           {
466             sourceRefs.remove(found);
467             dupeFound = true;
468           }
469         }
470       }
471       if (dupeFound)
472       {
473         dbrSourceSet = sourceRefs.toArray(new DBRefEntry[0]);
474       }
475     }
476   }
477
478   /**
479    * process sequence retrieved via a dbref on source sequence to resolve and
480    * transfer data
481    * 
482    * @param cf
483    * @param sourceSequence
484    * @param retrievedSequence
485    */
486   private void importCrossRefSeq(AlignedCodonFrame cf,
487           SequenceI sourceSequence, SequenceI retrievedSequence)
488   {
489     DBRefEntry[] dbr = retrievedSequence.getDBRefs();
490     if (dbr != null)
491     {
492       for (DBRefEntry dbref : dbr)
493       {
494         // find any entry where we should put in the sequence being
495         // cross-referenced into the map
496         Mapping map = dbref.getMap();
497         if (map != null)
498         {
499           if (map.getTo() != null && map.getMap() != null)
500           {
501             // TODO findInDataset requires exact sequence match but
502             // 'congruent' test is only for the mapped part
503             // maybe not a problem in practice since only ENA provide a
504             // mapping and it is to the full protein translation of CDS
505             SequenceI matched = findInDataset(dbref);
506             // matcher.findIdMatch(map.getTo());
507             if (matched != null)
508             {
509               /*
510                * already got an xref to this sequence; update this
511                * map to point to the same sequence, and add
512                * any new dbrefs to it
513                */
514               DBRefEntry[] toRefs = map.getTo().getDBRefs();
515               if (toRefs != null)
516               {
517                 for (DBRefEntry ref : toRefs)
518                 {
519                   matched.addDBRef(ref); // add or update mapping
520                 }
521               }
522               map.setTo(matched);
523             }
524             else
525             {
526               if (dataset.findIndex(map.getTo()) == -1)
527               {
528                 dataset.addSequence(map.getTo());
529                 matcher.add(map.getTo());
530               }
531             }
532
533             try
534             {
535               // compare ms with dss and replace with dss in mapping
536               // if map is congruent
537               SequenceI ms = map.getTo();
538               int sf = map.getMap().getToLowest();
539               int st = map.getMap().getToHighest();
540               SequenceI mappedrg = ms.getSubSequence(sf, st);
541               if (mappedrg.getLength() > 0
542                       && ms.getSequenceAsString().equals(
543                               sourceSequence.getSequenceAsString()))
544               {
545                 String msg = "Mapping updated from " + ms.getName()
546                         + " to retrieved crossreference "
547                         + sourceSequence.getName();
548                 System.out.println(msg);
549                 map.setTo(sourceSequence);
550
551                 /*
552                  * give the reverse reference the inverse mapping 
553                  * (if it doesn't have one already)
554                  */
555                 setReverseMapping(sourceSequence, dbref, cf);
556
557                 /*
558                  * copy sequence features as well, avoiding
559                  * duplication (e.g. same variation from two 
560                  * transcripts)
561                  */
562                 SequenceFeature[] sfs = ms.getSequenceFeatures();
563                 if (sfs != null)
564                 {
565                   for (SequenceFeature feat : sfs)
566                   {
567                     /*
568                      * make a flyweight feature object which ignores Parent
569                      * attribute in equality test; this avoids creating many
570                      * otherwise duplicate exon features on genomic sequence
571                      */
572                     SequenceFeature newFeature = new SequenceFeature(
573                             feat)
574                     {
575                       @Override
576                       public boolean equals(Object o)
577                       {
578                         return super.equals(o, true);
579                       }
580                     };
581                     sourceSequence.addSequenceFeature(newFeature);
582                   }
583                 }
584               }
585               cf.addMap(retrievedSequence, map.getTo(), map.getMap());
586             } catch (Exception e)
587             {
588               System.err
589                       .println("Exception when consolidating Mapped sequence set...");
590               e.printStackTrace(System.err);
591             }
592           }
593         }
594       }
595     }
596     retrievedSequence.updatePDBIds();
597   }
598   /**
599    * Sets the inverse sequence mapping in the corresponding dbref of the mapped
600    * to sequence (if any). This is used after fetching a cross-referenced
601    * sequence, if the fetched sequence has a mapping to the original sequence,
602    * to set the mapping in the original sequence's dbref.
603    * 
604    * @param mapFrom
605    *          the sequence mapped from
606    * @param dbref
607    * @param mappings
608    */
609   void setReverseMapping(SequenceI mapFrom, DBRefEntry dbref,
610           AlignedCodonFrame mappings)
611   {
612     SequenceI mapTo = dbref.getMap().getTo();
613     if (mapTo == null)
614     {
615       return;
616     }
617     DBRefEntry[] dbrefs = mapTo.getDBRefs();
618     if (dbrefs == null)
619     {
620       return;
621     }
622     for (DBRefEntry toRef : dbrefs)
623     {
624       if (toRef.hasMap() && mapFrom == toRef.getMap().getTo())
625       {
626         /*
627          * found the reverse dbref; update its mapping if null
628          */
629         if (toRef.getMap().getMap() == null)
630         {
631           MapList inverse = dbref.getMap().getMap().getInverse();
632           toRef.getMap().setMap(inverse);
633           mappings.addMap(mapTo, mapFrom, inverse);
634         }
635       }
636     }
637   }
638
639   /**
640    * Returns null or the first sequence in the dataset which is identical to
641    * xref.mapTo, and has a) a primary dbref matching xref, or if none found, the
642    * first one with an ID source|xrefacc
643    * 
644    * @param xref
645    *          with map and mapped-to sequence
646    * @return
647    */
648   SequenceI findInDataset(DBRefEntry xref)
649   {
650     if (xref == null || !xref.hasMap() || xref.getMap().getTo() == null)
651     {
652       return null;
653     }
654     SequenceI mapsTo = xref.getMap().getTo();
655     String name = xref.getAccessionId();
656     String name2 = xref.getSource() + "|" + name;
657     SequenceI dss = mapsTo.getDatasetSequence() == null ? mapsTo : mapsTo
658             .getDatasetSequence();
659     // first check ds if ds is directly referenced
660     if (dataset.findIndex(dss) > -1)
661     {
662       return dss;
663     }
664     DBRefEntry template = new DBRefEntry(xref.getSource(), null,
665             xref.getAccessionId());
666     /**
667      * remember the first ID match - in case we don't find a match to template
668      */
669     SequenceI firstIdMatch = null;
670     for (SequenceI seq : dataset.getSequences())
671     {
672       // first check primary refs.
673       List<DBRefEntry> match = DBRefUtils.searchRefs(seq.getPrimaryDBRefs()
674               .toArray(new DBRefEntry[0]), template);
675       if (match != null && match.size() == 1 && sameSequence(seq, dss))
676       {
677         return seq;
678       }
679       /*
680        * clumsy alternative to using SequenceIdMatcher which currently
681        * returns sequences with a dbref to the matched accession id 
682        * which we don't want
683        */
684       if (firstIdMatch == null
685               && (name.equals(seq.getName()) || seq.getName().startsWith(
686                       name2)))
687       {
688         if (sameSequence(seq, dss))
689         {
690           firstIdMatch = seq;
691         }
692       }
693     }
694     return firstIdMatch;
695   }
696
697   /**
698    * Answers true if seq1 and seq2 contain exactly the same characters (ignoring
699    * case), else false. This method compares the lengths, then each character in
700    * turn, in order to 'fail fast'. For case-sensitive comparison, it would be
701    * possible to use Arrays.equals(seq1.getSequence(), seq2.getSequence()).
702    * 
703    * @param seq1
704    * @param seq2
705    * @return
706    */
707   // TODO move to Sequence / SequenceI
708   static boolean sameSequence(SequenceI seq1, SequenceI seq2)
709   {
710     if (seq1 == seq2)
711     {
712       return true;
713     }
714     if (seq1 == null || seq2 == null)
715     {
716       return false;
717     }
718     char[] c1 = seq1.getSequence();
719     char[] c2 = seq2.getSequence();
720     if (c1.length != c2.length)
721     {
722       return false;
723     }
724     for (int i = 0; i < c1.length; i++)
725     {
726       int diff = c1[i] - c2[i];
727       /*
728        * same char or differ in case only ('a'-'A' == 32)
729        */
730       if (diff != 0 && diff != 32 && diff != -32)
731       {
732         return false;
733       }
734     }
735     return true;
736   }
737
738   /**
739    * Updates any empty mappings in the cross-references with one to a compatible
740    * retrieved sequence if found, and adds any new mappings to the
741    * AlignedCodonFrame
742    * 
743    * @param mapFrom
744    * @param xrefs
745    * @param retrieved
746    * @param acf
747    */
748   void updateDbrefMappings(SequenceI mapFrom, DBRefEntry[] xrefs,
749           SequenceI[] retrieved, AlignedCodonFrame acf, boolean fromDna)
750   {
751     SequenceIdMatcher idMatcher = new SequenceIdMatcher(retrieved);
752     for (DBRefEntry xref : xrefs)
753     {
754       if (!xref.hasMap())
755       {
756         String targetSeqName = xref.getSource() + "|"
757                 + xref.getAccessionId();
758         SequenceI[] matches = idMatcher.findAllIdMatches(targetSeqName);
759         if (matches == null)
760         {
761           return;
762         }
763         for (SequenceI seq : matches)
764         {
765           constructMapping(mapFrom, seq, xref, acf, fromDna);
766         }
767       }
768     }
769   }
770
771   /**
772    * Tries to make a mapping between sequences. If successful, adds the mapping
773    * to the dbref and the mappings collection and answers true, otherwise
774    * answers false. The following methods of making are mapping are tried in
775    * turn:
776    * <ul>
777    * <li>if 'mapTo' holds a mapping to 'mapFrom', take the inverse; this is, for
778    * example, the case after fetching EMBL cross-references for a Uniprot
779    * sequence</li>
780    * <li>else check if the dna translates exactly to the protein (give or take
781    * start and stop codons></li>
782    * <li>else try to map based on CDS features on the dna sequence</li>
783    * </ul>
784    * 
785    * @param mapFrom
786    * @param mapTo
787    * @param xref
788    * @param mappings
789    * @return
790    */
791   boolean constructMapping(SequenceI mapFrom, SequenceI mapTo,
792           DBRefEntry xref, AlignedCodonFrame mappings, boolean fromDna)
793   {
794     MapList mapping = null;
795     SequenceI dsmapFrom = mapFrom.getDatasetSequence() == null ? mapFrom
796             : mapFrom.getDatasetSequence();
797     SequenceI dsmapTo = mapTo.getDatasetSequence() == null ? mapTo
798             : mapTo.getDatasetSequence();
799     /*
800      * look for a reverse mapping, if found make its inverse. 
801      * Note - we do this on dataset sequences only.
802      */
803     if (dsmapTo.getDBRefs() != null)
804     {
805       for (DBRefEntry dbref : dsmapTo.getDBRefs())
806       {
807         String name = dbref.getSource() + "|" + dbref.getAccessionId();
808         if (dbref.hasMap() && dsmapFrom.getName().startsWith(name))
809         {
810           /*
811            * looks like we've found a map from 'mapTo' to 'mapFrom'
812            * - invert it to make the mapping the other way 
813            */
814           MapList reverse = dbref.getMap().getMap().getInverse();
815           xref.setMap(new Mapping(dsmapTo, reverse));
816           mappings.addMap(mapFrom, dsmapTo, reverse);
817           return true;
818         }
819       }
820     }
821
822     if (fromDna)
823     {
824       mapping = AlignmentUtils.mapCdnaToProtein(mapTo, mapFrom);
825     }
826     else
827     {
828       mapping = AlignmentUtils.mapCdnaToProtein(mapFrom, mapTo);
829       if (mapping != null)
830       {
831         mapping = mapping.getInverse();
832       }
833     }
834     if (mapping == null)
835     {
836       return false;
837     }
838     xref.setMap(new Mapping(mapTo, mapping));
839
840     /*
841      * and add a reverse DbRef with the inverse mapping
842      */
843     if (mapFrom.getDatasetSequence() != null && false)
844     // && mapFrom.getDatasetSequence().getSourceDBRef() != null)
845     {
846       // possible need to search primary references... except, why doesn't xref
847       // == getSourceDBRef ??
848       // DBRefEntry dbref = new DBRefEntry(mapFrom.getDatasetSequence()
849       // .getSourceDBRef());
850       // dbref.setMap(new Mapping(mapFrom.getDatasetSequence(), mapping
851       // .getInverse()));
852       // mapTo.addDBRef(dbref);
853     }
854
855     if (fromDna)
856     {
857       AlignmentUtils.computeProteinFeatures(mapFrom, mapTo, mapping);
858       mappings.addMap(mapFrom, mapTo, mapping);
859     }
860     else
861     {
862       mappings.addMap(mapTo, mapFrom, mapping.getInverse());
863     }
864
865     return true;
866   }
867
868   /**
869    * find references to lrfs in the cross-reference set of each sequence in
870    * dataset (that is not equal to sequenceI) Identifies matching DBRefEntry
871    * based on source and accession string only - Map and Version are nulled.
872    * 
873    * @param fromDna
874    *          - true if context was searching from Dna sequences, false if
875    *          context was searching from Protein sequences
876    * @param sequenceI
877    * @param lrfs
878    * @param foundSeqs
879    * @return true if matches were found.
880    */
881   private boolean searchDatasetXrefs(boolean fromDna, SequenceI sequenceI,
882           DBRefEntry[] lrfs, List<SequenceI> foundSeqs, AlignedCodonFrame cf)
883   {
884     boolean found = false;
885     if (lrfs == null)
886     {
887       return false;
888     }
889     for (int i = 0; i < lrfs.length; i++)
890     {
891       DBRefEntry xref = new DBRefEntry(lrfs[i]);
892       // add in wildcards
893       xref.setVersion(null);
894       xref.setMap(null);
895       found |= searchDataset(fromDna, sequenceI, xref, foundSeqs, cf, false);
896     }
897     return found;
898   }
899
900   /**
901    * Searches dataset for DBRefEntrys matching the given one (xrf) and adds the
902    * associated sequence to rseqs
903    * 
904    * @param fromDna
905    *          true if context was searching for refs *from* dna sequence, false
906    *          if context was searching for refs *from* protein sequence
907    * @param fromSeq
908    *          a sequence to ignore (start point of search)
909    * @param xrf
910    *          a cross-reference to try to match
911    * @param foundSeqs
912    *          result list to add to
913    * @param mappings
914    *          a set of sequence mappings to add to
915    * @param direct
916    *          - indicates the type of relationship between returned sequences,
917    *          xrf, and sequenceI that is required.
918    *          <ul>
919    *          <li>direct implies xrf is a primary reference for sequenceI AND
920    *          the sequences to be located (eg a uniprot ID for a protein
921    *          sequence, and a uniprot ref on a transcript sequence).</li>
922    *          <li>indirect means xrf is a cross reference with respect to
923    *          sequenceI or all the returned sequences (eg a genomic reference
924    *          associated with a locus and one or more transcripts)</li>
925    *          </ul>
926    * @return true if relationship found and sequence added.
927    */
928   boolean searchDataset(boolean fromDna, SequenceI fromSeq, DBRefEntry xrf,
929           List<SequenceI> foundSeqs, AlignedCodonFrame mappings,
930           boolean direct)
931   {
932     boolean found = false;
933     if (dataset == null)
934     {
935       return false;
936     }
937     if (dataset.getSequences() == null)
938     {
939       System.err.println("Empty dataset sequence set - NO VECTOR");
940       return false;
941     }
942     List<SequenceI> ds;
943     synchronized (ds = dataset.getSequences())
944     {
945       for (SequenceI nxt : ds)
946       {
947         if (nxt != null)
948         {
949           if (nxt.getDatasetSequence() != null)
950           {
951             System.err
952                     .println("Implementation warning: CrossRef initialised with a dataset alignment with non-dataset sequences in it! ("
953                             + nxt.getDisplayId(true)
954                             + " has ds reference "
955                             + nxt.getDatasetSequence().getDisplayId(true)
956                             + ")");
957           }
958           if (nxt == fromSeq || nxt == fromSeq.getDatasetSequence())
959           {
960             continue;
961           }
962           /*
963            * only look at same molecule type if 'direct', or
964            * complementary type if !direct
965            */
966           {
967             boolean isDna = !nxt.isProtein();
968             if (direct ? (isDna != fromDna) : (isDna == fromDna))
969             {
970               // skip this sequence because it is wrong molecule type
971               continue;
972             }
973           }
974
975           // look for direct or indirect references in common
976           DBRefEntry[] poss = nxt.getDBRefs();
977           List<DBRefEntry> cands = null;
978
979           // todo: indirect specifies we select either direct references to nxt
980           // that match xrf which is indirect to sequenceI, or indirect
981           // references to nxt that match xrf which is direct to sequenceI
982           cands = DBRefUtils.searchRefs(poss, xrf);
983           // else
984           // {
985           // poss = DBRefUtils.selectDbRefs(nxt.isProtein()!fromDna, poss);
986           // cands = DBRefUtils.searchRefs(poss, xrf);
987           // }
988           if (!cands.isEmpty())
989           {
990             if (foundSeqs.contains(nxt))
991             {
992               continue;
993             }
994             found = true;
995             foundSeqs.add(nxt);
996             if (mappings != null && !direct)
997             {
998               /*
999                * if the matched sequence has mapped dbrefs to
1000                * protein product / cdna, add equivalent mappings to
1001                * our source sequence
1002                */
1003               for (DBRefEntry candidate : cands)
1004               {
1005                 Mapping mapping = candidate.getMap();
1006                 if (mapping != null)
1007                 {
1008                   MapList map = mapping.getMap();
1009                   if (mapping.getTo() != null
1010                           && map.getFromRatio() != map.getToRatio())
1011                   {
1012                     /*
1013                      * add a mapping, as from dna to peptide sequence
1014                      */
1015                     if (map.getFromRatio() == 3)
1016                     {
1017                       mappings.addMap(nxt, fromSeq, map);
1018                     }
1019                     else
1020                     {
1021                       mappings.addMap(nxt, fromSeq, map.getInverse());
1022                     }
1023                   }
1024                 }
1025               }
1026             }
1027           }
1028         }
1029       }
1030     }
1031     return found;
1032   }
1033 }