src/jalview/ws/sifts/SiftsClient.java

   1 /*
   2  * Jalview - A Sequence Alignment Editor and Viewer ($$Version-Rel$$)
   3  * Copyright (C) $$Year-Rel$$ The Jalview Authors
   4  *
   5  * This file is part of Jalview.
   6  *
   7  * Jalview is free software: you can redistribute it and/or
   8  * modify it under the terms of the GNU General Public License
   9  * as published by the Free Software Foundation, either version 3
  10  * of the License, or (at your option) any later version.
  11  *
  12  * Jalview is distributed in the hope that it will be useful, but
  13  * WITHOUT ANY WARRANTY; without even the implied warranty
  14  * of MERCHANTABILITY or FITNESS FOR A PARTICULAR
  15  * PURPOSE.  See the GNU General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU General Public License
  18  * along with Jalview.  If not, see <http://www.gnu.org/licenses/>.
  19  * The Jalview Authors are detailed in the 'AUTHORS' file.
  20  */
  21 package jalview.ws.sifts;
  22
  23 import jalview.analysis.AlignSeq;
  24 import jalview.analysis.scoremodels.ScoreMatrix;
  25 import jalview.analysis.scoremodels.ScoreModels;
  26 import jalview.api.DBRefEntryI;
  27 import jalview.api.SiftsClientI;
  28 import jalview.datamodel.DBRefEntry;
  29 import jalview.datamodel.DBRefSource;
  30 import jalview.datamodel.SequenceI;
  31 import jalview.io.StructureFile;
  32 import jalview.schemes.ResidueProperties;
  33 import jalview.structure.StructureMapping;
  34 import jalview.util.Comparison;
  35 import jalview.util.DBRefUtils;
  36 import jalview.util.Format;
  37 import jalview.xml.binding.sifts.Entry;
  38 import jalview.xml.binding.sifts.Entry.Entity;
  39 import jalview.xml.binding.sifts.Entry.Entity.Segment;
  40 import jalview.xml.binding.sifts.Entry.Entity.Segment.ListMapRegion.MapRegion;
  41 import jalview.xml.binding.sifts.Entry.Entity.Segment.ListResidue.Residue;
  42 import jalview.xml.binding.sifts.Entry.Entity.Segment.ListResidue.Residue.CrossRefDb;
  43 import jalview.xml.binding.sifts.Entry.Entity.Segment.ListResidue.Residue.ResidueDetail;
  44
  45 import java.io.File;
  46 import java.io.FileInputStream;
  47 import java.io.FileOutputStream;
  48 import java.io.IOException;
  49 import java.io.InputStream;
  50 import java.io.PrintStream;
  51 import java.net.URL;
  52 import java.net.URLConnection;
  53 import java.nio.file.Files;
  54 import java.nio.file.Path;
  55 import java.nio.file.attribute.BasicFileAttributes;
  56 import java.util.ArrayList;
  57 import java.util.Arrays;
  58 import java.util.Collection;
  59 import java.util.Collections;
  60 import java.util.Date;
  61 import java.util.HashMap;
  62 import java.util.HashSet;
  63 import java.util.List;
  64 import java.util.Map;
  65 import java.util.Set;
  66 import java.util.TreeMap;
  67 import java.util.zip.GZIPInputStream;
  68
  69 import javax.xml.bind.JAXBContext;
  70 import javax.xml.bind.Unmarshaller;
  71 import javax.xml.stream.XMLInputFactory;
  72 import javax.xml.stream.XMLStreamReader;
  73
  74 import MCview.Atom;
  75 import MCview.PDBChain;
  76
  77 public class SiftsClient implements SiftsClientI
  78 {
  79   /*
  80    * for use in mocking out file fetch for tests only
  81    * - reset to null after testing!
  82    */
  83   private static File mockSiftsFile;
  84
  85   private Entry siftsEntry;
  86
  87   private StructureFile pdb;
  88
  89   private String pdbId;
  90
  91   private String structId;
  92
  93   private CoordinateSys seqCoordSys = CoordinateSys.UNIPROT;
  94
  95   private static final int BUFFER_SIZE = 4096;
  96
  97   public static final int UNASSIGNED = -1;
  98
  99   private static final int PDB_RES_POS = 0;
 100
 101   private static final int PDB_ATOM_POS = 1;
 102
 103   private static final String NOT_OBSERVED = "Not_Observed";
 104
 105   private static final String SIFTS_FTP_BASE_URL = "http://ftp.ebi.ac.uk/pub/databases/msd/sifts/xml/";
 106
 107   private final static String NEWLINE = System.lineSeparator();
 108
 109   private String curSourceDBRef;
 110
 111   private HashSet<String> curDBRefAccessionIdsString;
 112
 113   private enum CoordinateSys
 114   {
 115     UNIPROT("UniProt"), PDB("PDBresnum"), PDBe("PDBe");
 116     private String name;
 117
 118     private CoordinateSys(String name)
 119     {
 120       this.name = name;
 121     }
 122
 123     public String getName()
 124     {
 125       return name;
 126     }
 127   };
 128
 129   private enum ResidueDetailType
 130   {
 131     NAME_SEC_STRUCTURE("nameSecondaryStructure"), CODE_SEC_STRUCTURE(
 132             "codeSecondaryStructure"), ANNOTATION("Annotation");
 133     private String code;
 134
 135     private ResidueDetailType(String code)
 136     {
 137       this.code = code;
 138     }
 139
 140     public String getCode()
 141     {
 142       return code;
 143     }
 144   };
 145
 146   /**
 147    * Fetch SIFTs file for the given PDBfile and construct an instance of
 148    * SiftsClient
 149    *
 150    * @param pdbId
 151    * @throws SiftsException
 152    */
 153   public SiftsClient(StructureFile pdb) throws SiftsException
 154   {
 155     this.pdb = pdb;
 156     this.pdbId = pdb.getId();
 157     File siftsFile = getSiftsFile(pdbId);
 158     siftsEntry = parseSIFTs(siftsFile);
 159   }
 160
 161   /**
 162    * Parse the given SIFTs File and return a JAXB POJO of parsed data
 163    *
 164    * @param siftFile
 165    *          - the GZipped SIFTs XML file to parse
 166    * @return
 167    * @throws Exception
 168    *           if a problem occurs while parsing the SIFTs XML
 169    */
 170   private Entry parseSIFTs(File siftFile) throws SiftsException
 171   {
 172     try (InputStream in = new FileInputStream(siftFile);
 173             GZIPInputStream gzis = new GZIPInputStream(in);)
 174     {
 175       // System.out.println("File : " + siftFile.getAbsolutePath());
 176       JAXBContext jc = JAXBContext.newInstance("jalview.xml.binding.sifts");
 177       XMLStreamReader streamReader = XMLInputFactory.newInstance()
 178               .createXMLStreamReader(gzis);
 179       Unmarshaller um = jc.createUnmarshaller();
 180       return (Entry) um.unmarshal(streamReader);
 181     } catch (Exception e)
 182     {
 183       e.printStackTrace();
 184       throw new SiftsException(e.getMessage());
 185     }
 186   }
 187
 188   /**
 189    * Get a SIFTs XML file for a given PDB Id from Cache or download from FTP
 190    * repository if not found in cache
 191    *
 192    * @param pdbId
 193    * @return SIFTs XML file
 194    * @throws SiftsException
 195    */
 196   public static File getSiftsFile(String pdbId) throws SiftsException
 197   {
 198     /*
 199      * return mocked file if it has been set
 200      */
 201     if (mockSiftsFile != null)
 202     {
 203       return mockSiftsFile;
 204     }
 205
 206     String siftsFileName = SiftsSettings.getSiftDownloadDirectory()
 207             + pdbId.toLowerCase() + ".xml.gz";
 208     File siftsFile = new File(siftsFileName);
 209     if (siftsFile.exists())
 210     {
 211       // The line below is required for unit testing... don't comment it out!!!
 212       System.out.println(">>> SIFTS File already downloaded for " + pdbId);
 213
 214       if (isFileOlderThanThreshold(siftsFile,
 215               SiftsSettings.getCacheThresholdInDays()))
 216       {
 217         File oldSiftsFile = new File(siftsFileName + "_old");
 218         siftsFile.renameTo(oldSiftsFile);
 219         try
 220         {
 221           siftsFile = downloadSiftsFile(pdbId.toLowerCase());
 222           oldSiftsFile.delete();
 223           return siftsFile;
 224         } catch (IOException e)
 225         {
 226           e.printStackTrace();
 227           oldSiftsFile.renameTo(siftsFile);
 228           return new File(siftsFileName);
 229         }
 230       }
 231       else
 232       {
 233         return siftsFile;
 234       }
 235     }
 236     try
 237     {
 238       siftsFile = downloadSiftsFile(pdbId.toLowerCase());
 239     } catch (IOException e)
 240     {
 241       throw new SiftsException(e.getMessage());
 242     }
 243     return siftsFile;
 244   }
 245
 246   /**
 247    * This method enables checking if a cached file has exceeded a certain
 248    * threshold(in days)
 249    *
 250    * @param file
 251    *          the cached file
 252    * @param noOfDays
 253    *          the threshold in days
 254    * @return
 255    */
 256   public static boolean isFileOlderThanThreshold(File file, int noOfDays)
 257   {
 258     Path filePath = file.toPath();
 259     BasicFileAttributes attr;
 260     int diffInDays = 0;
 261     try
 262     {
 263       attr = Files.readAttributes(filePath, BasicFileAttributes.class);
 264       diffInDays = (int) ((new Date().getTime() - attr.lastModifiedTime()
 265               .toMillis()) / (1000 * 60 * 60 * 24));
 266       // System.out.println("Diff in days : " + diffInDays);
 267     } catch (IOException e)
 268     {
 269       e.printStackTrace();
 270     }
 271     return noOfDays <= diffInDays;
 272   }
 273
 274   /**
 275    * Download a SIFTs XML file for a given PDB Id from an FTP repository
 276    *
 277    * @param pdbId
 278    * @return downloaded SIFTs XML file
 279    * @throws SiftsException
 280    * @throws IOException
 281    */
 282   public static File downloadSiftsFile(String pdbId) throws SiftsException,
 283           IOException
 284   {
 285     if (pdbId.contains(".cif"))
 286     {
 287       pdbId = pdbId.replace(".cif", "");
 288     }
 289     String siftFile = pdbId + ".xml.gz";
 290     String siftsFileFTPURL = SIFTS_FTP_BASE_URL + siftFile;
 291     String downloadedSiftsFile = SiftsSettings.getSiftDownloadDirectory()
 292             + siftFile;
 293     File siftsDownloadDir = new File(
 294             SiftsSettings.getSiftDownloadDirectory());
 295     if (!siftsDownloadDir.exists())
 296     {
 297       siftsDownloadDir.mkdirs();
 298     }
 299     // System.out.println(">> Download ftp url : " + siftsFileFTPURL);
 300     // long now = System.currentTimeMillis();
 301     URL url = new URL(siftsFileFTPURL);
 302     URLConnection conn = url.openConnection();
 303     InputStream inputStream = conn.getInputStream();
 304     FileOutputStream outputStream = new FileOutputStream(
 305             downloadedSiftsFile);
 306     byte[] buffer = new byte[BUFFER_SIZE];
 307     int bytesRead = -1;
 308     while ((bytesRead = inputStream.read(buffer)) != -1)
 309     {
 310       outputStream.write(buffer, 0, bytesRead);
 311     }
 312     outputStream.close();
 313     inputStream.close();
 314 //    System.out.println(">>> File downloaded : " + downloadedSiftsFile
 315 //            + " took " + (System.currentTimeMillis() - now) + "ms");
 316     return new File(downloadedSiftsFile);
 317   }
 318
 319   /**
 320    * Delete the SIFTs file for the given PDB Id in the local SIFTs download
 321    * directory
 322    *
 323    * @param pdbId
 324    * @return true if the file was deleted or doesn't exist
 325    */
 326   public static boolean deleteSiftsFileByPDBId(String pdbId)
 327   {
 328     File siftsFile = new File(SiftsSettings.getSiftDownloadDirectory()
 329             + pdbId.toLowerCase() + ".xml.gz");
 330     if (siftsFile.exists())
 331     {
 332       return siftsFile.delete();
 333     }
 334     return true;
 335   }
 336
 337   /**
 338    * Get a valid SIFTs DBRef for the given sequence current SIFTs entry
 339    *
 340    * @param seq
 341    *          - the target sequence for the operation
 342    * @return a valid DBRefEntry that is SIFTs compatible
 343    * @throws Exception
 344    *           if no valid source DBRefEntry was found for the given sequences
 345    */
 346   public DBRefEntryI getValidSourceDBRef(SequenceI seq)
 347           throws SiftsException
 348   {
 349     List<DBRefEntry> dbRefs = seq.getPrimaryDBRefs();
 350     if (dbRefs == null || dbRefs.size() < 1)
 351     {
 352       throw new SiftsException(
 353               "Source DBRef could not be determined. DBRefs might not have been retrieved.");
 354     }
 355
 356     for (DBRefEntry dbRef : dbRefs)
 357     {
 358       if (dbRef == null || dbRef.getAccessionId() == null
 359               || dbRef.getSource() == null)
 360       {
 361         continue;
 362       }
 363       String canonicalSource = DBRefUtils.getCanonicalName(dbRef
 364               .getSource());
 365       if (isValidDBRefEntry(dbRef)
 366               && (canonicalSource.equalsIgnoreCase(DBRefSource.UNIPROT) || canonicalSource
 367                       .equalsIgnoreCase(DBRefSource.PDB)))
 368       {
 369         return dbRef;
 370       }
 371     }
 372     throw new SiftsException("Could not get source DB Ref");
 373   }
 374
 375   /**
 376    * Check that the DBRef Entry is properly populated and is available in this
 377    * SiftClient instance
 378    *
 379    * @param entry
 380    *          - DBRefEntry to validate
 381    * @return true validation is successful otherwise false is returned.
 382    */
 383   boolean isValidDBRefEntry(DBRefEntryI entry)
 384   {
 385     return entry != null && entry.getAccessionId() != null
 386             && isFoundInSiftsEntry(entry.getAccessionId());
 387   }
 388
 389   @Override
 390   public HashSet<String> getAllMappingAccession()
 391   {
 392     HashSet<String> accessions = new HashSet<String>();
 393     List<Entity> entities = siftsEntry.getEntity();
 394     for (Entity entity : entities)
 395     {
 396       List<Segment> segments = entity.getSegment();
 397       for (Segment segment : segments)
 398       {
 399         List<MapRegion> mapRegions = segment.getListMapRegion()
 400                 .getMapRegion();
 401         for (MapRegion mapRegion : mapRegions)
 402         {
 403           accessions
 404                   .add(mapRegion.getDb().getDbAccessionId().toLowerCase());
 405         }
 406       }
 407     }
 408     return accessions;
 409   }
 410
 411   @Override
 412   public StructureMapping getSiftsStructureMapping(SequenceI seq,
 413           String pdbFile, String chain) throws SiftsException
 414   {
 415     structId = (chain == null) ? pdbId : pdbId + "|" + chain;
 416     System.out.println("Getting SIFTS mapping for " + structId + ": seq "
 417             + seq.getName());
 418
 419     final StringBuilder mappingDetails = new StringBuilder(128);
 420     PrintStream ps = new PrintStream(System.out)
 421     {
 422       @Override
 423       public void print(String x)
 424       {
 425         mappingDetails.append(x);
 426       }
 427
 428       @Override
 429       public void println()
 430       {
 431         mappingDetails.append(NEWLINE);
 432       }
 433     };
 434     HashMap<Integer, int[]> mapping = getGreedyMapping(chain, seq, ps);
 435
 436     String mappingOutput = mappingDetails.toString();
 437     StructureMapping siftsMapping = new StructureMapping(seq, pdbFile,
 438             pdbId, chain, mapping, mappingOutput);
 439     return siftsMapping;
 440   }
 441
 442   @Override
 443   public HashMap<Integer, int[]> getGreedyMapping(String entityId,
 444           SequenceI seq, java.io.PrintStream os) throws SiftsException
 445   {
 446     List<Integer> omitNonObserved = new ArrayList<Integer>();
 447     int nonObservedShiftIndex = 0;
 448     // System.out.println("Generating mappings for : " + entityId);
 449     Entity entity = null;
 450     entity = getEntityById(entityId);
 451     String originalSeq = AlignSeq.extractGaps(
 452             jalview.util.Comparison.GapChars, seq.getSequenceAsString());
 453     HashMap<Integer, int[]> mapping = new HashMap<Integer, int[]>();
 454     DBRefEntryI sourceDBRef;
 455     sourceDBRef = getValidSourceDBRef(seq);
 456     // TODO ensure sequence start/end is in the same coordinate system and
 457     // consistent with the choosen sourceDBRef
 458
 459     // set sequence coordinate system - default value is UniProt
 460     if (sourceDBRef.getSource().equalsIgnoreCase(DBRefSource.PDB))
 461     {
 462       seqCoordSys = CoordinateSys.PDB;
 463     }
 464
 465     HashSet<String> dbRefAccessionIdsString = new HashSet<String>();
 466     for (DBRefEntry dbref : seq.getDBRefs())
 467     {
 468       dbRefAccessionIdsString.add(dbref.getAccessionId().toLowerCase());
 469     }
 470     dbRefAccessionIdsString.add(sourceDBRef.getAccessionId().toLowerCase());
 471
 472     curDBRefAccessionIdsString = dbRefAccessionIdsString;
 473     curSourceDBRef = sourceDBRef.getAccessionId();
 474
 475     TreeMap<Integer, String> resNumMap = new TreeMap<Integer, String>();
 476     List<Segment> segments = entity.getSegment();
 477     SegmentHelperPojo shp = new SegmentHelperPojo(seq, mapping, resNumMap,
 478             omitNonObserved, nonObservedShiftIndex);
 479     processSegments(segments, shp);
 480     try
 481     {
 482       populateAtomPositions(entityId, mapping);
 483     } catch (Exception e)
 484     {
 485       e.printStackTrace();
 486     }
 487     if (seqCoordSys == CoordinateSys.UNIPROT)
 488     {
 489       padWithGaps(resNumMap, omitNonObserved);
 490     }
 491     int seqStart = UNASSIGNED;
 492     int seqEnd = UNASSIGNED;
 493     int pdbStart = UNASSIGNED;
 494     int pdbEnd = UNASSIGNED;
 495
 496     if (mapping.isEmpty())
 497     {
 498       throw new SiftsException("SIFTS mapping failed");
 499     }
 500
 501     Integer[] keys = mapping.keySet().toArray(new Integer[0]);
 502     Arrays.sort(keys);
 503     seqStart = keys[0];
 504     seqEnd = keys[keys.length - 1];
 505
 506     String matchedSeq = originalSeq;
 507     if (seqStart != UNASSIGNED)
 508     {
 509       pdbStart = mapping.get(seqStart)[PDB_RES_POS];
 510       pdbEnd = mapping.get(seqEnd)[PDB_RES_POS];
 511       int orignalSeqStart = seq.getStart();
 512       if (orignalSeqStart >= 1)
 513       {
 514         int subSeqStart = (seqStart >= orignalSeqStart) ? seqStart
 515                 - orignalSeqStart : 0;
 516         int subSeqEnd = seqEnd - (orignalSeqStart - 1);
 517         subSeqEnd = originalSeq.length() < subSeqEnd ? originalSeq.length()
 518                 : subSeqEnd;
 519         matchedSeq = originalSeq.substring(subSeqStart, subSeqEnd);
 520       }
 521       else
 522       {
 523         matchedSeq = originalSeq.substring(1, originalSeq.length());
 524       }
 525     }
 526
 527     StringBuilder targetStrucSeqs = new StringBuilder();
 528     for (String res : resNumMap.values())
 529     {
 530       targetStrucSeqs.append(res);
 531     }
 532
 533     if (os != null)
 534     {
 535       MappingOutputPojo mop = new MappingOutputPojo();
 536       mop.setSeqStart(seqStart);
 537       mop.setSeqEnd(seqEnd);
 538       mop.setSeqName(seq.getName());
 539       mop.setSeqResidue(matchedSeq);
 540
 541       mop.setStrStart(pdbStart);
 542       mop.setStrEnd(pdbEnd);
 543       mop.setStrName(structId);
 544       mop.setStrResidue(targetStrucSeqs.toString());
 545
 546       mop.setType("pep");
 547       os.print(getMappingOutput(mop).toString());
 548       os.println();
 549     }
 550     return mapping;
 551   }
 552
 553   void processSegments(List<Segment> segments, SegmentHelperPojo shp)
 554   {
 555     SequenceI seq = shp.getSeq();
 556     HashMap<Integer, int[]> mapping = shp.getMapping();
 557     TreeMap<Integer, String> resNumMap = shp.getResNumMap();
 558     List<Integer> omitNonObserved = shp.getOmitNonObserved();
 559     int nonObservedShiftIndex = shp.getNonObservedShiftIndex();
 560     for (Segment segment : segments)
 561     {
 562       // System.out.println("Mapping segments : " + segment.getSegId() + "\\"s
 563       // + segStartEnd);
 564       List<Residue> residues = segment.getListResidue().getResidue();
 565       for (Residue residue : residues)
 566       {
 567         int currSeqIndex = UNASSIGNED;
 568         List<CrossRefDb> cRefDbs = residue.getCrossRefDb();
 569         CrossRefDb pdbRefDb = null;
 570         for (CrossRefDb cRefDb : cRefDbs)
 571         {
 572           if (cRefDb.getDbSource().equalsIgnoreCase(DBRefSource.PDB))
 573           {
 574             pdbRefDb = cRefDb;
 575           }
 576           if (cRefDb.getDbCoordSys()
 577                   .equalsIgnoreCase(seqCoordSys.getName())
 578                   && isAccessionMatched(cRefDb.getDbAccessionId()))
 579           {
 580             String resNumIndexString = cRefDb.getDbResNum()
 581                     .equalsIgnoreCase("None") ? String.valueOf(UNASSIGNED)
 582                     : cRefDb.getDbResNum();
 583             try
 584             {
 585               currSeqIndex = Integer.valueOf(resNumIndexString);
 586             } catch (NumberFormatException nfe)
 587             {
 588               currSeqIndex = Integer.valueOf(resNumIndexString
 589                       .split("[a-zA-Z]")[0]);
 590               continue;
 591             }
 592             if (pdbRefDb != null)
 593             {
 594               break;// exit loop if pdb and uniprot are already found
 595             }
 596           }
 597         }
 598         if (currSeqIndex == UNASSIGNED)
 599         {
 600           continue;
 601         }
 602         if (currSeqIndex >= seq.getStart() && currSeqIndex <= seq.getEnd())
 603         {
 604           int resNum;
 605           try
 606           {
 607             resNum = (pdbRefDb == null) ? Integer.valueOf(residue
 608                     .getDbResNum()) : Integer.valueOf(pdbRefDb
 609                     .getDbResNum());
 610           } catch (NumberFormatException nfe)
 611           {
 612             resNum = (pdbRefDb == null) ? Integer.valueOf(residue
 613                     .getDbResNum()) : Integer.valueOf(pdbRefDb
 614                     .getDbResNum().split("[a-zA-Z]")[0]);
 615             continue;
 616           }
 617
 618           if (isResidueObserved(residue)
 619                   || seqCoordSys == CoordinateSys.UNIPROT)
 620           {
 621             char resCharCode = ResidueProperties
 622                     .getSingleCharacterCode(ResidueProperties
 623                             .getCanonicalAminoAcid(residue.getDbResName()));
 624             resNumMap.put(currSeqIndex, String.valueOf(resCharCode));
 625           }
 626           else
 627           {
 628             omitNonObserved.add(currSeqIndex);
 629             ++nonObservedShiftIndex;
 630           }
 631           mapping.put(currSeqIndex - nonObservedShiftIndex, new int[] {
 632               Integer.valueOf(resNum), UNASSIGNED });
 633         }
 634       }
 635     }
 636   }
 637
 638   /**
 639    *
 640    * @param chainId
 641    *          Target chain to populate mapping of its atom positions.
 642    * @param mapping
 643    *          Two dimension array of residue index versus atom position
 644    * @throws IllegalArgumentException
 645    *           Thrown if chainId or mapping is null
 646    * @throws SiftsException
 647    */
 648   void populateAtomPositions(String chainId, Map<Integer, int[]> mapping)
 649           throws IllegalArgumentException, SiftsException
 650   {
 651     try
 652     {
 653       PDBChain chain = pdb.findChain(chainId);
 654
 655       if (chain == null || mapping == null)
 656       {
 657         throw new IllegalArgumentException(
 658                 "Chain id or mapping must not be null.");
 659       }
 660       for (int[] map : mapping.values())
 661       {
 662         if (map[PDB_RES_POS] != UNASSIGNED)
 663         {
 664           map[PDB_ATOM_POS] = getAtomIndex(map[PDB_RES_POS], chain.atoms);
 665         }
 666       }
 667     } catch (NullPointerException e)
 668     {
 669       throw new SiftsException(e.getMessage());
 670     } catch (Exception e)
 671     {
 672       throw new SiftsException(e.getMessage());
 673     }
 674   }
 675
 676   /**
 677    *
 678    * @param residueIndex
 679    *          The residue index used for the search
 680    * @param atoms
 681    *          A collection of Atom to search
 682    * @return atom position for the given residue index
 683    */
 684   int getAtomIndex(int residueIndex, Collection<Atom> atoms)
 685   {
 686     if (atoms == null)
 687     {
 688       throw new IllegalArgumentException(
 689               "atoms collection must not be null!");
 690     }
 691     for (Atom atom : atoms)
 692     {
 693       if (atom.resNumber == residueIndex)
 694       {
 695         return atom.atomIndex;
 696       }
 697     }
 698     return UNASSIGNED;
 699   }
 700
 701   /**
 702    * Checks if the residue instance is marked 'Not_observed' or not
 703    *
 704    * @param residue
 705    * @return
 706    */
 707   private boolean isResidueObserved(Residue residue)
 708   {
 709     Set<String> annotations = getResidueAnnotaitons(residue,
 710             ResidueDetailType.ANNOTATION);
 711     if (annotations == null || annotations.isEmpty())
 712     {
 713       return true;
 714     }
 715     for (String annotation : annotations)
 716     {
 717       if (annotation.equalsIgnoreCase(NOT_OBSERVED))
 718       {
 719         return false;
 720       }
 721     }
 722     return true;
 723   }
 724
 725   /**
 726    * Get annotation String for a given residue and annotation type
 727    *
 728    * @param residue
 729    * @param type
 730    * @return
 731    */
 732   private Set<String> getResidueAnnotaitons(Residue residue,
 733           ResidueDetailType type)
 734   {
 735     HashSet<String> foundAnnotations = new HashSet<String>();
 736     List<ResidueDetail> resDetails = residue.getResidueDetail();
 737     for (ResidueDetail resDetail : resDetails)
 738     {
 739       if (resDetail.getProperty().equalsIgnoreCase(type.getCode()))
 740       {
 741         foundAnnotations.add(resDetail.getContent());
 742       }
 743     }
 744     return foundAnnotations;
 745   }
 746
 747   @Override
 748   public boolean isAccessionMatched(String accession)
 749   {
 750     boolean isStrictMatch = true;
 751     return isStrictMatch ? curSourceDBRef.equalsIgnoreCase(accession)
 752             : curDBRefAccessionIdsString.contains(accession.toLowerCase());
 753   }
 754
 755   private boolean isFoundInSiftsEntry(String accessionId)
 756   {
 757     Set<String> siftsDBRefs = getAllMappingAccession();
 758     return accessionId != null
 759             && siftsDBRefs.contains(accessionId.toLowerCase());
 760   }
 761
 762   /**
 763    * Pad omitted residue positions in PDB sequence with gaps
 764    *
 765    * @param resNumMap
 766    */
 767   void padWithGaps(Map<Integer, String> resNumMap,
 768           List<Integer> omitNonObserved)
 769   {
 770     if (resNumMap == null || resNumMap.isEmpty())
 771     {
 772       return;
 773     }
 774     Integer[] keys = resNumMap.keySet().toArray(new Integer[0]);
 775     // Arrays.sort(keys);
 776     int firstIndex = keys[0];
 777     int lastIndex = keys[keys.length - 1];
 778     // System.out.println("Min value " + firstIndex);
 779     // System.out.println("Max value " + lastIndex);
 780     for (int x = firstIndex; x <= lastIndex; x++)
 781     {
 782       if (!resNumMap.containsKey(x) && !omitNonObserved.contains(x))
 783       {
 784         resNumMap.put(x, "-");
 785       }
 786     }
 787   }
 788
 789   @Override
 790   public Entity getEntityById(String id) throws SiftsException
 791   {
 792     // Determines an entity to process by performing a heuristic matching of all
 793     // Entities with the given chainId and choosing the best matching Entity
 794     Entity entity = getEntityByMostOptimalMatchedId(id);
 795     if (entity != null)
 796     {
 797       return entity;
 798     }
 799     throw new SiftsException("Entity " + id + " not found");
 800   }
 801
 802   /**
 803    * This method was added because EntityId is NOT always equal to ChainId.
 804    * Hence, it provides the logic to greedily detect the "true" Entity for a
 805    * given chainId where discrepancies exist.
 806    *
 807    * @param chainId
 808    * @return
 809    */
 810   public Entity getEntityByMostOptimalMatchedId(String chainId)
 811   {
 812     // System.out.println("---> advanced greedy entityId matching block entered..");
 813     List<Entity> entities = siftsEntry.getEntity();
 814     SiftsEntitySortPojo[] sPojo = new SiftsEntitySortPojo[entities.size()];
 815     int count = 0;
 816     for (Entity entity : entities)
 817     {
 818       sPojo[count] = new SiftsEntitySortPojo();
 819       sPojo[count].entityId = entity.getEntityId();
 820
 821       List<Segment> segments = entity.getSegment();
 822       for (Segment segment : segments)
 823       {
 824         List<Residue> residues = segment.getListResidue().getResidue();
 825         for (Residue residue : residues)
 826         {
 827           List<CrossRefDb> cRefDbs = residue.getCrossRefDb();
 828           for (CrossRefDb cRefDb : cRefDbs)
 829           {
 830             if (!cRefDb.getDbSource().equalsIgnoreCase("PDB"))
 831             {
 832               continue;
 833             }
 834             ++sPojo[count].resCount;
 835             if (cRefDb.getDbChainId().equalsIgnoreCase(chainId))
 836             {
 837               ++sPojo[count].chainIdFreq;
 838             }
 839           }
 840         }
 841       }
 842       sPojo[count].pid = (100 * sPojo[count].chainIdFreq)
 843               / sPojo[count].resCount;
 844       ++count;
 845     }
 846     Arrays.sort(sPojo, Collections.reverseOrder());
 847     // System.out.println("highest matched entity : " + sPojo[0].entityId);
 848     // System.out.println("highest matched pid : " + sPojo[0].pid);
 849
 850     if (sPojo[0].entityId != null)
 851     {
 852       if (sPojo[0].pid < 1)
 853       {
 854         return null;
 855       }
 856       for (Entity entity : entities)
 857       {
 858         if (!entity.getEntityId().equalsIgnoreCase(sPojo[0].entityId))
 859         {
 860           continue;
 861         }
 862         return entity;
 863       }
 864     }
 865     return null;
 866   }
 867
 868   private class SiftsEntitySortPojo implements
 869           Comparable<SiftsEntitySortPojo>
 870   {
 871     public String entityId;
 872
 873     public int chainIdFreq;
 874
 875     public int pid;
 876
 877     public int resCount;
 878
 879     @Override
 880     public int compareTo(SiftsEntitySortPojo o)
 881     {
 882       return this.pid - o.pid;
 883     }
 884   }
 885
 886   private class SegmentHelperPojo
 887   {
 888     private SequenceI seq;
 889
 890     private HashMap<Integer, int[]> mapping;
 891
 892     private TreeMap<Integer, String> resNumMap;
 893
 894     private List<Integer> omitNonObserved;
 895
 896     private int nonObservedShiftIndex;
 897
 898     public SegmentHelperPojo(SequenceI seq,
 899             HashMap<Integer, int[]> mapping,
 900             TreeMap<Integer, String> resNumMap,
 901             List<Integer> omitNonObserved, int nonObservedShiftIndex)
 902     {
 903       setSeq(seq);
 904       setMapping(mapping);
 905       setResNumMap(resNumMap);
 906       setOmitNonObserved(omitNonObserved);
 907       setNonObservedShiftIndex(nonObservedShiftIndex);
 908     }
 909
 910     public SequenceI getSeq()
 911     {
 912       return seq;
 913     }
 914
 915     public void setSeq(SequenceI seq)
 916     {
 917       this.seq = seq;
 918     }
 919
 920     public HashMap<Integer, int[]> getMapping()
 921     {
 922       return mapping;
 923     }
 924
 925     public void setMapping(HashMap<Integer, int[]> mapping)
 926     {
 927       this.mapping = mapping;
 928     }
 929
 930     public TreeMap<Integer, String> getResNumMap()
 931     {
 932       return resNumMap;
 933     }
 934
 935     public void setResNumMap(TreeMap<Integer, String> resNumMap)
 936     {
 937       this.resNumMap = resNumMap;
 938     }
 939
 940     public List<Integer> getOmitNonObserved()
 941     {
 942       return omitNonObserved;
 943     }
 944
 945     public void setOmitNonObserved(List<Integer> omitNonObserved)
 946     {
 947       this.omitNonObserved = omitNonObserved;
 948     }
 949
 950     public int getNonObservedShiftIndex()
 951     {
 952       return nonObservedShiftIndex;
 953     }
 954
 955     public void setNonObservedShiftIndex(int nonObservedShiftIndex)
 956     {
 957       this.nonObservedShiftIndex = nonObservedShiftIndex;
 958     }
 959   }
 960
 961   @Override
 962   public StringBuilder getMappingOutput(MappingOutputPojo mp)
 963           throws SiftsException
 964   {
 965     String seqRes = mp.getSeqResidue();
 966     String seqName = mp.getSeqName();
 967     int sStart = mp.getSeqStart();
 968     int sEnd = mp.getSeqEnd();
 969
 970     String strRes = mp.getStrResidue();
 971     String strName = mp.getStrName();
 972     int pdbStart = mp.getStrStart();
 973     int pdbEnd = mp.getStrEnd();
 974
 975     String type = mp.getType();
 976
 977     int maxid = (seqName.length() >= strName.length()) ? seqName.length()
 978             : strName.length();
 979     int len = 72 - maxid - 1;
 980
 981     int nochunks = ((seqRes.length()) / len)
 982             + ((seqRes.length()) % len > 0 ? 1 : 0);
 983     // output mappings
 984     StringBuilder output = new StringBuilder(512);
 985     output.append(NEWLINE);
 986     output.append("Sequence \u27f7 Structure mapping details").append(
 987             NEWLINE);
 988     output.append("Method: SIFTS");
 989     output.append(NEWLINE).append(NEWLINE);
 990
 991     output.append(new Format("%" + maxid + "s").form(seqName));
 992     output.append(" :  ");
 993     output.append(String.valueOf(sStart));
 994     output.append(" - ");
 995     output.append(String.valueOf(sEnd));
 996     output.append(" Maps to ");
 997     output.append(NEWLINE);
 998     output.append(new Format("%" + maxid + "s").form(structId));
 999     output.append(" :  ");
1000     output.append(String.valueOf(pdbStart));
1001     output.append(" - ");
1002     output.append(String.valueOf(pdbEnd));
1003     output.append(NEWLINE).append(NEWLINE);
1004
1005     ScoreMatrix pam250 = ScoreModels.getInstance().getPam250();
1006     int matchedSeqCount = 0;
1007     for (int j = 0; j < nochunks; j++)
1008     {
1009       // Print the first aligned sequence
1010       output.append(new Format("%" + (maxid) + "s").form(seqName)).append(
1011               " ");
1012
1013       for (int i = 0; i < len; i++)
1014       {
1015         if ((i + (j * len)) < seqRes.length())
1016         {
1017           output.append(seqRes.charAt(i + (j * len)));
1018         }
1019       }
1020
1021       output.append(NEWLINE);
1022       output.append(new Format("%" + (maxid) + "s").form(" ")).append(" ");
1023
1024       /*
1025        * Print out the match symbols:
1026        * | for exact match (ignoring case)
1027        * . if PAM250 score is positive
1028        * else a space
1029        */
1030       for (int i = 0; i < len; i++)
1031       {
1032         try
1033         {
1034           if ((i + (j * len)) < seqRes.length())
1035           {
1036             char c1 = seqRes.charAt(i + (j * len));
1037             char c2 = strRes.charAt(i + (j * len));
1038             boolean sameChar = Comparison.isSameResidue(c1, c2, false);
1039             if (sameChar && !Comparison.isGap(c1))
1040             {
1041               matchedSeqCount++;
1042               output.append("|");
1043             }
1044             else if (type.equals("pep"))
1045             {
1046               if (pam250.getPairwiseScore(c1, c2) > 0)
1047               {
1048                 output.append(".");
1049               }
1050               else
1051               {
1052                 output.append(" ");
1053               }
1054             }
1055             else
1056             {
1057               output.append(" ");
1058             }
1059           }
1060         } catch (IndexOutOfBoundsException e)
1061         {
1062           continue;
1063         }
1064       }
1065       // Now print the second aligned sequence
1066       output = output.append(NEWLINE);
1067       output = output.append(new Format("%" + (maxid) + "s").form(strName))
1068               .append(" ");
1069       for (int i = 0; i < len; i++)
1070       {
1071         if ((i + (j * len)) < strRes.length())
1072         {
1073           output.append(strRes.charAt(i + (j * len)));
1074         }
1075       }
1076       output.append(NEWLINE).append(NEWLINE);
1077     }
1078     float pid = (float) matchedSeqCount / seqRes.length() * 100;
1079     if (pid < SiftsSettings.getFailSafePIDThreshold())
1080     {
1081       throw new SiftsException(">>> Low PID detected for SIFTs mapping...");
1082     }
1083     output.append("Length of alignment = " + seqRes.length()).append(
1084             NEWLINE);
1085     output.append(new Format("Percentage ID = %2.2f").form(pid));
1086     return output;
1087   }
1088
1089   @Override
1090   public int getEntityCount()
1091   {
1092     return siftsEntry.getEntity().size();
1093   }
1094
1095   @Override
1096   public String getDbAccessionId()
1097   {
1098     return siftsEntry.getDbAccessionId();
1099   }
1100
1101   @Override
1102   public String getDbCoordSys()
1103   {
1104     return siftsEntry.getDbCoordSys();
1105   }
1106
1107   @Override
1108   public String getDbSource()
1109   {
1110     return siftsEntry.getDbSource();
1111   }
1112
1113   @Override
1114   public String getDbVersion()
1115   {
1116     return siftsEntry.getDbVersion();
1117   }
1118
1119   public static void setMockSiftsFile(File file)
1120   {
1121     mockSiftsFile = file;
1122   }
1123
1124 }