JAL-1705 refactoring etc for fetching Ensembl --> Uniprot
[jalview.git] / src / jalview / ext / ensembl / EnsemblSeqProxy.java
index 5e27158..4af6525 100644 (file)
@@ -13,11 +13,8 @@ import jalview.io.FastaFile;
 import jalview.io.FileParse;
 import jalview.io.gff.SequenceOntologyFactory;
 import jalview.io.gff.SequenceOntologyI;
-import jalview.schemes.ResidueProperties;
 import jalview.util.DBRefUtils;
 import jalview.util.MapList;
-import jalview.util.MappingUtils;
-import jalview.util.StringUtils;
 
 import java.io.IOException;
 import java.net.MalformedURLException;
@@ -26,9 +23,7 @@ import java.util.ArrayList;
 import java.util.Arrays;
 import java.util.Collections;
 import java.util.Comparator;
-import java.util.LinkedHashMap;
 import java.util.List;
-import java.util.Map.Entry;
 
 /**
  * Base class for Ensembl sequence fetchers
@@ -39,7 +34,8 @@ import java.util.Map.Entry;
 public abstract class EnsemblSeqProxy extends EnsemblRestClient
 {
   private static final List<String> CROSS_REFERENCES = Arrays
-          .asList(new String[] { "CCDS", "Uniprot/SWISSPROT" });
+          .asList(new String[] { "CCDS", "Uniprot/SWISSPROT",
+              "Uniprot/SPTREMBL" });
 
   protected static final String CONSEQUENCE_TYPE = "consequence_type";
 
@@ -267,7 +263,7 @@ public abstract class EnsemblSeqProxy extends EnsemblRestClient
               .getSequenceRecords(accId);
       if (protein == null || protein.getHeight() == 0)
       {
-        System.out.println("Failed to retrieve protein for " + accId);
+        System.out.println("No protein product found for " + accId);
         return;
       }
       SequenceI proteinSeq = protein.getSequenceAt(0);
@@ -278,7 +274,7 @@ public abstract class EnsemblSeqProxy extends EnsemblRestClient
       proteinSeq.createDatasetSequence();
       querySeq.createDatasetSequence();
 
-      MapList mapList = mapCdsToProtein(querySeq, proteinSeq);
+      MapList mapList = AlignmentUtils.mapCdsToProtein(querySeq, proteinSeq);
       if (mapList != null)
       {
         // clunky: ensure Uniprot xref if we have one is on mapped sequence
@@ -290,10 +286,10 @@ public abstract class EnsemblSeqProxy extends EnsemblRestClient
         querySeq.getDatasetSequence().addDBRef(dbr);
         
         /*
-         * compute peptide variants from dna variants and add as 
-         * sequence features on the protein sequence ta-da
+         * copy exon features to protein, compute peptide variants from dna 
+         * variants and add as features on the protein sequence ta-da
          */
-        computeProteinFeatures(querySeq, proteinSeq, mapList);
+        AlignmentUtils.computeProteinFeatures(querySeq, proteinSeq, mapList);
       }
     } catch (Exception e)
     {
@@ -333,6 +329,8 @@ public abstract class EnsemblSeqProxy extends EnsemblRestClient
 
   /**
    * Returns a list of database names to be used when fetching cross-references.
+   * Specifically, the names are used to filter data returned by the Ensembl
+   * xrefs REST service on the value in field 'dbname'.
    * 
    * @return
    */
@@ -342,104 +340,6 @@ public abstract class EnsemblSeqProxy extends EnsemblRestClient
   }
 
   /**
-   * Returns a mapping from dna to protein by inspecting sequence features of
-   * type "CDS" on the dna.
-   * 
-   * @param dnaSeq
-   * @param proteinSeq
-   * @return
-   */
-  protected MapList mapCdsToProtein(SequenceI dnaSeq, SequenceI proteinSeq)
-  {
-    List<int[]> ranges = getCdsRanges(dnaSeq);
-    int mappedDnaLength = MappingUtils.getLength(ranges);
-
-    int proteinLength = proteinSeq.getLength();
-    int proteinEnd = proteinLength;
-    int proteinStart = 1;
-
-    /*
-     * incomplete start codon may mean X at start of peptide
-     * we ignore both for mapping purposes
-     */
-    if (proteinSeq.getCharAt(0) == 'X')
-    {
-      proteinStart = 2;
-      proteinLength--;
-    }
-    List<int[]> proteinRange = new ArrayList<int[]>();
-
-    /*
-     * dna length should map to protein (or protein plus stop codon)
-     */
-    int codesForResidues = mappedDnaLength / 3;
-    if (codesForResidues == (proteinLength + 1))
-    {
-      // assuming extra codon is for STOP and not in peptide
-      codesForResidues--;
-    }
-    if (codesForResidues == proteinLength)
-    {
-      proteinRange.add(new int[] { proteinStart, proteinEnd });
-      return new MapList(ranges, proteinRange, 3, 1);
-    }
-    return null;
-  }
-
-  /**
-   * Returns a list of CDS ranges found.
-   * 
-   * No need to worry about reverse strand dna, here since the retrieved
-   * sequence is as transcribed (reverse complement for reverse strand), i.e in
-   * the same sense as the peptide.
-   * 
-   * @param dnaSeq
-   * @return
-   */
-  protected List<int[]> getCdsRanges(SequenceI dnaSeq)
-  {
-    List<int[]> result = new ArrayList<int[]>();
-    SequenceFeature[] sfs = dnaSeq.getSequenceFeatures();
-    if (sfs == null)
-    {
-      return result;
-    }
-    SequenceOntologyI so = SequenceOntologyFactory.getInstance();
-    for (SequenceFeature sf : sfs)
-    {
-      /*
-       * process a CDS feature (or a sub-type of CDS)
-       */
-      if (so.isA(sf.getType(), SequenceOntologyI.CDS))
-      {
-        int phase = 0;
-        try {
-          phase = Integer.parseInt(sf.getPhase());
-        } catch (NumberFormatException e)
-        {
-          // ignore
-        }
-        /*
-         * phase > 0 on first codon means 5' incomplete - skip to the start
-         * of the next codon; example ENST00000496384
-         */
-        int begin = sf.getBegin();
-        int end = sf.getEnd();
-        if (result.isEmpty())
-        {
-          begin += phase;
-          if (begin > end)
-          {
-            continue; // shouldn't happen?
-          }
-        }
-        result.add(new int[] { begin, end });
-      }
-    }
-    return result;
-  }
-
-  /**
    * Fetches sequences for the list of accession ids and adds them to the
    * alignment. Returns the extended (or created) alignment.
    * 
@@ -893,240 +793,6 @@ public abstract class EnsemblSeqProxy extends EnsemblRestClient
   }
 
   /**
-   * Maps exon features from dna to protein, and computes variants in peptide
-   * product generated by variants in dna, and adds them as sequence_variant
-   * features on the protein sequence. Returns the number of variant features
-   * added.
-   * 
-   * @param dnaSeq
-   * @param peptide
-   * @param dnaToProtein
-   */
-  static int computeProteinFeatures(SequenceI dnaSeq,
-          SequenceI peptide, MapList dnaToProtein)
-  {
-    while (dnaSeq.getDatasetSequence() != null)
-    {
-      dnaSeq = dnaSeq.getDatasetSequence();
-    }
-    while (peptide.getDatasetSequence() != null)
-    {
-      peptide = peptide.getDatasetSequence();
-    }
-  
-    AlignmentUtils.transferFeatures(dnaSeq, peptide, dnaToProtein,
-            SequenceOntologyI.EXON);
-
-    LinkedHashMap<Integer, String[][]> variants = buildDnaVariantsMap(
-            dnaSeq, dnaToProtein);
-  
-    /*
-     * scan codon variations, compute peptide variants and add to peptide sequence
-     */
-    int count = 0;
-    for (Entry<Integer, String[][]> variant : variants.entrySet())
-    {
-      int peptidePos = variant.getKey();
-      String[][] codonVariants = variant.getValue();
-      String residue = String.valueOf(peptide.getCharAt(peptidePos - 1)); // 0-based
-      List<String> peptideVariants = computePeptideVariants(codonVariants,
-              residue);
-      if (!peptideVariants.isEmpty())
-      {
-        String desc = StringUtils.listToDelimitedString(peptideVariants,
-                ", ");
-        SequenceFeature sf = new SequenceFeature(
-                SequenceOntologyI.SEQUENCE_VARIANT, desc, peptidePos,
-                peptidePos, 0f, null);
-        peptide.addSequenceFeature(sf);
-        count++;
-      }
-    }
-
-    /*
-     * ugly sort to get sequence features in start position order
-     * - would be better to store in Sequence as a TreeSet instead?
-     */
-    Arrays.sort(peptide.getSequenceFeatures(),
-            new Comparator<SequenceFeature>()
-            {
-              @Override
-              public int compare(SequenceFeature o1, SequenceFeature o2)
-              {
-                int c = Integer.compare(o1.getBegin(), o2.getBegin());
-                return c == 0 ? Integer.compare(o1.getEnd(), o2.getEnd())
-                        : c;
-              }
-            });
-    return count;
-  }
-
-  /**
-   * Builds a map whose key is position in the protein sequence, and value is an
-   * array of all variants for the coding codon positions
-   * 
-   * @param dnaSeq
-   * @param dnaToProtein
-   * @return
-   */
-  static LinkedHashMap<Integer, String[][]> buildDnaVariantsMap(
-          SequenceI dnaSeq, MapList dnaToProtein)
-  {
-    /*
-     * map from peptide position to all variant features of the codon for it
-     * LinkedHashMap ensures we add the peptide features in sequence order
-     */
-    LinkedHashMap<Integer, String[][]> variants = new LinkedHashMap<Integer, String[][]>();
-    SequenceOntologyI so = SequenceOntologyFactory.getInstance();
-  
-    SequenceFeature[] dnaFeatures = dnaSeq.getSequenceFeatures();
-    if (dnaFeatures == null)
-    {
-      return variants;
-    }
-  
-    int dnaStart = dnaSeq.getStart();
-    int[] lastCodon = null;
-    int lastPeptidePostion = 0;
-  
-    /*
-     * build a map of codon variations for peptides
-     */
-    for (SequenceFeature sf : dnaFeatures)
-    {
-      int dnaCol = sf.getBegin();
-      if (dnaCol != sf.getEnd())
-      {
-        // not handling multi-locus variant features
-        continue;
-      }
-      if (so.isA(sf.getType(), SequenceOntologyI.SEQUENCE_VARIANT))
-      {
-        int[] mapsTo = dnaToProtein.locateInTo(dnaCol, dnaCol);
-        if (mapsTo == null)
-        {
-          // feature doesn't lie within coding region
-          continue;
-        }
-        int peptidePosition = mapsTo[0];
-        String[][] codonVariants = variants.get(peptidePosition);
-        if (codonVariants == null)
-        {
-          codonVariants = new String[3][];
-          variants.put(peptidePosition, codonVariants);
-        }
-  
-        /*
-         * extract dna variants to a string array
-         */
-        String alls = (String) sf.getValue("alleles");
-        if (alls == null)
-        {
-          continue;
-        }
-        String[] alleles = alls.split(",");
-  
-        /*
-         * get this peptides codon positions e.g. [3, 4, 5] or [4, 7, 10]
-         */
-        int[] codon = peptidePosition == lastPeptidePostion ? lastCodon
-                : MappingUtils.flattenRanges(dnaToProtein.locateInFrom(
-                        peptidePosition, peptidePosition));
-        lastPeptidePostion = peptidePosition;
-        lastCodon = codon;
-  
-        /*
-         * save nucleotide (and this variant) for each codon position
-         */
-        for (int codonPos = 0; codonPos < 3; codonPos++)
-        {
-          String nucleotide = String.valueOf(dnaSeq
-                  .getCharAt(codon[codonPos] - dnaStart));
-          if (codon[codonPos] == dnaCol)
-          {
-            /*
-             * record current dna base and its alleles
-             */
-            String[] dnaVariants = new String[alleles.length + 1];
-            dnaVariants[0] = nucleotide;
-            System.arraycopy(alleles, 0, dnaVariants, 1, alleles.length);
-            codonVariants[codonPos] = dnaVariants;
-          }
-          else if (codonVariants[codonPos] == null)
-          {
-            /*
-             * record current dna base only 
-             * (at least until we find any variation and overwrite it)
-             */
-            codonVariants[codonPos] = new String[] { nucleotide };
-          }
-        }
-      }
-    }
-    return variants;
-  }
-
-  /**
-   * Returns a sorted, non-redundant list of all peptide translations generated
-   * by the given dna variants, excluding the current residue value
-   * 
-   * @param codonVariants
-   *          an array of base values (acgtACGT) for codon positions 1, 2, 3
-   * @param residue
-   *          the current residue translation
-   * @return
-   */
-  static List<String> computePeptideVariants(
-          String[][] codonVariants, String residue)
-  {
-    List<String> result = new ArrayList<String>();
-    for (String base1 : codonVariants[0])
-    {
-      for (String base2 : codonVariants[1])
-      {
-        for (String base3 : codonVariants[2])
-        {
-          String codon = base1 + base2 + base3;
-          // TODO: report frameshift/insertion/deletion
-          // and multiple-base variants?!
-          String peptide = codon.contains("-") ? "-" : ResidueProperties
-                  .codonTranslate(codon);
-          if (peptide != null && !result.contains(peptide)
-                  && !peptide.equalsIgnoreCase(residue))
-          {
-            result.add(peptide);
-          }
-        }
-      }
-    }
-
-    /*
-     * sort alphabetically with STOP at the end
-     */
-    Collections.sort(result, new Comparator<String>()
-    {
-
-      @Override
-      public int compare(String o1, String o2)
-      {
-        if ("STOP".equals(o1))
-        {
-          return 1;
-        }
-        else if ("STOP".equals(o2))
-        {
-          return -1;
-        }
-        else
-        {
-          return o1.compareTo(o2);
-        }
-      }
-    });
-    return result;
-  }
-
-  /**
    * Answers true if the feature type is either 'NMD_transcript_variant' or
    * 'transcript' or one of its sub-types in the Sequence Ontology. This is
    * needed because NMD_transcript_variant behaves like 'transcript' in Ensembl