added AGRESSIVE tax extraction ^^
[jalview.git] / forester / java / src / org / forester / phylogeny / PhylogenyMethods.java
1 // $Id:
2 // FORESTER -- software libraries and applications
3 // for evolutionary biology research and applications.
4 //
5 // Copyright (C) 2008-2009 Christian M. Zmasek
6 // Copyright (C) 2008-2009 Burnham Institute for Medical Research
7 // All rights reserved
8 //
9 // This library is free software; you can redistribute it and/or
10 // modify it under the terms of the GNU Lesser General Public
11 // License as published by the Free Software Foundation; either
12 // version 2.1 of the License, or (at your option) any later version.
13 //
14 // This library is distributed in the hope that it will be useful,
15 // but WITHOUT ANY WARRANTY; without even the implied warranty of
16 // MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
17 // Lesser General Public License for more details.
18 //
19 // You should have received a copy of the GNU Lesser General Public
20 // License along with this library; if not, write to the Free Software
21 // Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA
22 //
23 // Contact: phylosoft @ gmail . com
24 // WWW: https://sites.google.com/site/cmzmasek/home/software/forester
25
26 package org.forester.phylogeny;
27
28 import java.awt.Color;
29 import java.io.File;
30 import java.io.IOException;
31 import java.util.ArrayList;
32 import java.util.Arrays;
33 import java.util.Collections;
34 import java.util.Comparator;
35 import java.util.HashMap;
36 import java.util.HashSet;
37 import java.util.Iterator;
38 import java.util.List;
39 import java.util.Set;
40 import java.util.SortedMap;
41 import java.util.TreeMap;
42
43 import org.forester.io.parsers.PhylogenyParser;
44 import org.forester.io.parsers.phyloxml.PhyloXmlDataFormatException;
45 import org.forester.io.parsers.phyloxml.PhyloXmlUtil;
46 import org.forester.io.parsers.util.PhylogenyParserException;
47 import org.forester.phylogeny.data.BranchColor;
48 import org.forester.phylogeny.data.BranchWidth;
49 import org.forester.phylogeny.data.Confidence;
50 import org.forester.phylogeny.data.DomainArchitecture;
51 import org.forester.phylogeny.data.Event;
52 import org.forester.phylogeny.data.Identifier;
53 import org.forester.phylogeny.data.PhylogenyDataUtil;
54 import org.forester.phylogeny.data.Sequence;
55 import org.forester.phylogeny.data.Taxonomy;
56 import org.forester.phylogeny.factories.ParserBasedPhylogenyFactory;
57 import org.forester.phylogeny.factories.PhylogenyFactory;
58 import org.forester.phylogeny.iterators.PhylogenyNodeIterator;
59 import org.forester.util.BasicDescriptiveStatistics;
60 import org.forester.util.DescriptiveStatistics;
61 import org.forester.util.ForesterUtil;
62
63 public class PhylogenyMethods {
64
65     //private static PhylogenyMethods _instance   = null;
66     //private final PhylogenyNode     _farthest_1 = null;
67     //private final PhylogenyNode     _farthest_2 = null;
68     private PhylogenyMethods() {
69         // Hidden constructor.
70     }
71
72     //    public double calculateFurthestDistance( final Phylogeny phylogeny ) {
73     //        if ( phylogeny.getNumberOfExternalNodes() < 2 ) {
74     //            return 0.0;
75     //        }
76     //        _farthest_1 = null;
77     //        _farthest_2 = null;
78     //        PhylogenyNode node_1 = null;
79     //        PhylogenyNode node_2 = null;
80     //        double farthest_d = -Double.MAX_VALUE;
81     //        final PhylogenyMethods methods = PhylogenyMethods.getInstance();
82     //        final List<PhylogenyNode> ext_nodes = phylogeny.getRoot().getAllExternalDescendants();
83     //        for( int i = 1; i < ext_nodes.size(); ++i ) {
84     //            for( int j = 0; j < i; ++j ) {
85     //                final double d = methods.calculateDistance( ext_nodes.get( i ), ext_nodes.get( j ) );
86     //                if ( d < 0.0 ) {
87     //                    throw new RuntimeException( "distance cannot be negative" );
88     //                }
89     //                if ( d > farthest_d ) {
90     //                    farthest_d = d;
91     //                    node_1 = ext_nodes.get( i );
92     //                    node_2 = ext_nodes.get( j );
93     //                }
94     //            }
95     //        }
96     //        _farthest_1 = node_1;
97     //        _farthest_2 = node_2;
98     //        return farthest_d;
99     //    }
100     @Override
101     public Object clone() throws CloneNotSupportedException {
102         throw new CloneNotSupportedException();
103     }
104
105     // public PhylogenyNode getFarthestNode1() {
106     //      return _farthest_1;
107     // }
108     //  public PhylogenyNode getFarthestNode2() {
109     //      return _farthest_2;
110     //  }
111     public static DescriptiveStatistics calculatBranchLengthStatistics( final Phylogeny phy ) {
112         final DescriptiveStatistics stats = new BasicDescriptiveStatistics();
113         for( final PhylogenyNodeIterator iter = phy.iteratorPreorder(); iter.hasNext(); ) {
114             final PhylogenyNode n = iter.next();
115             if ( !n.isRoot() && ( n.getDistanceToParent() >= 0.0 ) ) {
116                 stats.addValue( n.getDistanceToParent() );
117             }
118         }
119         return stats;
120     }
121
122     public static List<DescriptiveStatistics> calculatConfidenceStatistics( final Phylogeny phy ) {
123         final List<DescriptiveStatistics> stats = new ArrayList<DescriptiveStatistics>();
124         for( final PhylogenyNodeIterator iter = phy.iteratorPreorder(); iter.hasNext(); ) {
125             final PhylogenyNode n = iter.next();
126             if ( !n.isExternal() && !n.isRoot() ) {
127                 if ( n.getBranchData().isHasConfidences() ) {
128                     for( int i = 0; i < n.getBranchData().getConfidences().size(); ++i ) {
129                         final Confidence c = n.getBranchData().getConfidences().get( i );
130                         if ( ( i > ( stats.size() - 1 ) ) || ( stats.get( i ) == null ) ) {
131                             stats.add( i, new BasicDescriptiveStatistics() );
132                         }
133                         if ( !ForesterUtil.isEmpty( c.getType() ) ) {
134                             if ( !ForesterUtil.isEmpty( stats.get( i ).getDescription() ) ) {
135                                 if ( !stats.get( i ).getDescription().equalsIgnoreCase( c.getType() ) ) {
136                                     throw new IllegalArgumentException( "support values in node [" + n.toString()
137                                             + "] appear inconsistently ordered" );
138                                 }
139                             }
140                             stats.get( i ).setDescription( c.getType() );
141                         }
142                         stats.get( i ).addValue( ( ( c != null ) && ( c.getValue() >= 0 ) ) ? c.getValue() : 0 );
143                     }
144                 }
145             }
146         }
147         return stats;
148     }
149
150     /**
151      * Calculates the distance between PhylogenyNodes node1 and node2.
152      * 
153      * 
154      * @param node1
155      * @param node2
156      * @return distance between node1 and node2
157      */
158     public static double calculateDistance( final PhylogenyNode node1, final PhylogenyNode node2 ) {
159         final PhylogenyNode lca = calculateLCA( node1, node2 );
160         final PhylogenyNode n1 = node1;
161         final PhylogenyNode n2 = node2;
162         return ( PhylogenyMethods.getDistance( n1, lca ) + PhylogenyMethods.getDistance( n2, lca ) );
163     }
164
165     /**
166      * Returns the LCA of PhylogenyNodes node1 and node2.
167      * 
168      * 
169      * @param node1
170      * @param node2
171      * @return LCA of node1 and node2
172      */
173     public final static PhylogenyNode calculateLCA( PhylogenyNode node1, PhylogenyNode node2 ) {
174         if ( node1 == null ) {
175             throw new IllegalArgumentException( "first argument (node) is null" );
176         }
177         if ( node2 == null ) {
178             throw new IllegalArgumentException( "second argument (node) is null" );
179         }
180         if ( node1 == node2 ) {
181             return node1;
182         }
183         if ( ( node1.getParent() == node2.getParent() ) ) {
184             return node1.getParent();
185         }
186         int depth1 = node1.calculateDepth();
187         int depth2 = node2.calculateDepth();
188         while ( ( depth1 > -1 ) && ( depth2 > -1 ) ) {
189             if ( depth1 > depth2 ) {
190                 node1 = node1.getParent();
191                 depth1--;
192             }
193             else if ( depth2 > depth1 ) {
194                 node2 = node2.getParent();
195                 depth2--;
196             }
197             else {
198                 if ( node1 == node2 ) {
199                     return node1;
200                 }
201                 node1 = node1.getParent();
202                 node2 = node2.getParent();
203                 depth1--;
204                 depth2--;
205             }
206         }
207         throw new IllegalArgumentException( "illegal attempt to calculate LCA of two nodes which do not share a common root" );
208     }
209
210     /**
211      * Returns the LCA of PhylogenyNodes node1 and node2.
212      * Precondition: ids are in pre-order (or level-order).
213      * 
214      * 
215      * @param node1
216      * @param node2
217      * @return LCA of node1 and node2
218      */
219     public final static PhylogenyNode calculateLCAonTreeWithIdsInPreOrder( PhylogenyNode node1, PhylogenyNode node2 ) {
220         if ( node1 == null ) {
221             throw new IllegalArgumentException( "first argument (node) is null" );
222         }
223         if ( node2 == null ) {
224             throw new IllegalArgumentException( "second argument (node) is null" );
225         }
226         while ( node1 != node2 ) {
227             if ( node1.getId() > node2.getId() ) {
228                 node1 = node1.getParent();
229             }
230             else {
231                 node2 = node2.getParent();
232             }
233         }
234         return node1;
235     }
236
237     public static short calculateMaxBranchesToLeaf( final PhylogenyNode node ) {
238         if ( node.isExternal() ) {
239             return 0;
240         }
241         short max = 0;
242         for( PhylogenyNode d : node.getAllExternalDescendants() ) {
243             short steps = 0;
244             while ( d != node ) {
245                 if ( d.isCollapse() ) {
246                     steps = 0;
247                 }
248                 else {
249                     steps++;
250                 }
251                 d = d.getParent();
252             }
253             if ( max < steps ) {
254                 max = steps;
255             }
256         }
257         return max;
258     }
259
260     public static int calculateMaxDepth( final Phylogeny phy ) {
261         int max = 0;
262         for( final PhylogenyNodeIterator iter = phy.iteratorExternalForward(); iter.hasNext(); ) {
263             final PhylogenyNode node = iter.next();
264             final int steps = node.calculateDepth();
265             if ( steps > max ) {
266                 max = steps;
267             }
268         }
269         return max;
270     }
271
272     public static double calculateMaxDistanceToRoot( final Phylogeny phy ) {
273         double max = 0.0;
274         for( final PhylogenyNodeIterator iter = phy.iteratorExternalForward(); iter.hasNext(); ) {
275             final PhylogenyNode node = iter.next();
276             final double d = node.calculateDistanceToRoot();
277             if ( d > max ) {
278                 max = d;
279             }
280         }
281         return max;
282     }
283
284     public static int calculateNumberOfExternalNodesWithoutTaxonomy( final PhylogenyNode node ) {
285         final List<PhylogenyNode> descs = node.getAllExternalDescendants();
286         int x = 0;
287         for( final PhylogenyNode n : descs ) {
288             if ( !n.getNodeData().isHasTaxonomy() || n.getNodeData().getTaxonomy().isEmpty() ) {
289                 x++;
290             }
291         }
292         return x;
293     }
294
295     public static DescriptiveStatistics calculatNumberOfDescendantsPerNodeStatistics( final Phylogeny phy ) {
296         final DescriptiveStatistics stats = new BasicDescriptiveStatistics();
297         for( final PhylogenyNodeIterator iter = phy.iteratorPreorder(); iter.hasNext(); ) {
298             final PhylogenyNode n = iter.next();
299             if ( !n.isExternal() ) {
300                 stats.addValue( n.getNumberOfDescendants() );
301             }
302         }
303         return stats;
304     }
305
306     public static int countNumberOfOneDescendantNodes( final Phylogeny phy ) {
307         int count = 0;
308         for( final PhylogenyNodeIterator iter = phy.iteratorPreorder(); iter.hasNext(); ) {
309             final PhylogenyNode n = iter.next();
310             if ( !n.isExternal() && ( n.getNumberOfDescendants() == 1 ) ) {
311                 count++;
312             }
313         }
314         return count;
315     }
316
317     public static int countNumberOfPolytomies( final Phylogeny phy ) {
318         int count = 0;
319         for( final PhylogenyNodeIterator iter = phy.iteratorPreorder(); iter.hasNext(); ) {
320             final PhylogenyNode n = iter.next();
321             if ( !n.isExternal() && ( n.getNumberOfDescendants() > 2 ) ) {
322                 count++;
323             }
324         }
325         return count;
326     }
327
328     public static final HashMap<String, PhylogenyNode> createNameToExtNodeMap( final Phylogeny phy ) {
329         final HashMap<String, PhylogenyNode> nodes = new HashMap<String, PhylogenyNode>();
330         final List<PhylogenyNode> ext = phy.getExternalNodes();
331         for( final PhylogenyNode n : ext ) {
332             nodes.put( n.getName(), n );
333         }
334         // for( final PhylogenyNodeIterator iter = phy.iteratorExternalForward(); iter.hasNext(); ) {
335         //     final PhylogenyNode n = iter.next();
336         //     nodes.put( n.getName(), n );
337         // }
338         return nodes;
339     }
340
341     public static void deleteExternalNodesNegativeSelection( final Set<Integer> to_delete, final Phylogeny phy ) {
342         phy.clearHashIdToNodeMap();
343         for( final Integer id : to_delete ) {
344             phy.deleteSubtree( phy.getNode( id ), true );
345         }
346         phy.clearHashIdToNodeMap();
347         phy.externalNodesHaveChanged();
348     }
349
350     public static void deleteExternalNodesNegativeSelection( final String[] node_names_to_delete, final Phylogeny p )
351             throws IllegalArgumentException {
352         for( final String element : node_names_to_delete ) {
353             if ( ForesterUtil.isEmpty( element ) ) {
354                 continue;
355             }
356             List<PhylogenyNode> nodes = null;
357             nodes = p.getNodes( element );
358             final Iterator<PhylogenyNode> it = nodes.iterator();
359             while ( it.hasNext() ) {
360                 final PhylogenyNode n = it.next();
361                 if ( !n.isExternal() ) {
362                     throw new IllegalArgumentException( "attempt to delete non-external node \"" + element + "\"" );
363                 }
364                 p.deleteSubtree( n, true );
365             }
366         }
367         p.clearHashIdToNodeMap();
368         p.externalNodesHaveChanged();
369     }
370
371     public static void deleteExternalNodesPositiveSelection( final Set<Taxonomy> species_to_keep, final Phylogeny phy ) {
372         //   final Set<Integer> to_delete = new HashSet<Integer>();
373         for( final PhylogenyNodeIterator it = phy.iteratorExternalForward(); it.hasNext(); ) {
374             final PhylogenyNode n = it.next();
375             if ( n.getNodeData().isHasTaxonomy() ) {
376                 if ( !species_to_keep.contains( n.getNodeData().getTaxonomy() ) ) {
377                     //to_delete.add( n.getNodeId() );
378                     phy.deleteSubtree( n, true );
379                 }
380             }
381             else {
382                 throw new IllegalArgumentException( "node " + n.getId() + " has no taxonomic data" );
383             }
384         }
385         phy.clearHashIdToNodeMap();
386         phy.externalNodesHaveChanged();
387     }
388
389     public static List<String> deleteExternalNodesPositiveSelection( final String[] node_names_to_keep,
390                                                                      final Phylogeny p ) {
391         final PhylogenyNodeIterator it = p.iteratorExternalForward();
392         final String[] to_delete = new String[ p.getNumberOfExternalNodes() ];
393         int i = 0;
394         Arrays.sort( node_names_to_keep );
395         while ( it.hasNext() ) {
396             final String curent_name = it.next().getName();
397             if ( Arrays.binarySearch( node_names_to_keep, curent_name ) < 0 ) {
398                 to_delete[ i++ ] = curent_name;
399             }
400         }
401         PhylogenyMethods.deleteExternalNodesNegativeSelection( to_delete, p );
402         final List<String> deleted = new ArrayList<String>();
403         for( final String n : to_delete ) {
404             if ( !ForesterUtil.isEmpty( n ) ) {
405                 deleted.add( n );
406             }
407         }
408         return deleted;
409     }
410
411     final public static void deleteInternalNodesWithOnlyOneDescendent( final Phylogeny phy ) {
412         final ArrayList<PhylogenyNode> to_delete = new ArrayList<PhylogenyNode>();
413         for( final PhylogenyNodeIterator iter = phy.iteratorPostorder(); iter.hasNext(); ) {
414             final PhylogenyNode n = iter.next();
415             if ( ( !n.isExternal() ) && ( n.getNumberOfDescendants() == 1 ) ) {
416                 to_delete.add( n );
417             }
418         }
419         for( final PhylogenyNode d : to_delete ) {
420             PhylogenyMethods.removeNode( d, phy );
421         }
422         phy.clearHashIdToNodeMap();
423         phy.externalNodesHaveChanged();
424     }
425
426     final public static void deleteNonOrthologousExternalNodes( final Phylogeny phy, final PhylogenyNode n ) {
427         if ( n.isInternal() ) {
428             throw new IllegalArgumentException( "node is not external" );
429         }
430         final ArrayList<PhylogenyNode> to_delete = new ArrayList<PhylogenyNode>();
431         for( final PhylogenyNodeIterator it = phy.iteratorExternalForward(); it.hasNext(); ) {
432             final PhylogenyNode i = it.next();
433             if ( !PhylogenyMethods.getEventAtLCA( n, i ).isSpeciation() ) {
434                 to_delete.add( i );
435             }
436         }
437         for( final PhylogenyNode d : to_delete ) {
438             phy.deleteSubtree( d, true );
439         }
440         phy.clearHashIdToNodeMap();
441         phy.externalNodesHaveChanged();
442     }
443
444     public static List<PhylogenyNode> getAllDescendants( final PhylogenyNode node ) {
445         final List<PhylogenyNode> descs = new ArrayList<PhylogenyNode>();
446         final Set<Long> encountered = new HashSet<Long>();
447         if ( !node.isExternal() ) {
448             final List<PhylogenyNode> exts = node.getAllExternalDescendants();
449             for( PhylogenyNode current : exts ) {
450                 descs.add( current );
451                 while ( current != node ) {
452                     current = current.getParent();
453                     if ( encountered.contains( current.getId() ) ) {
454                         continue;
455                     }
456                     descs.add( current );
457                     encountered.add( current.getId() );
458                 }
459             }
460         }
461         return descs;
462     }
463
464     /**
465      * 
466      * Convenience method
467      * 
468      * @param node
469      * @return
470      */
471     public static Color getBranchColorValue( final PhylogenyNode node ) {
472         if ( node.getBranchData().getBranchColor() == null ) {
473             return null;
474         }
475         return node.getBranchData().getBranchColor().getValue();
476     }
477
478     /**
479      * Convenience method
480      */
481     public static double getBranchWidthValue( final PhylogenyNode node ) {
482         if ( !node.getBranchData().isHasBranchWidth() ) {
483             return BranchWidth.BRANCH_WIDTH_DEFAULT_VALUE;
484         }
485         return node.getBranchData().getBranchWidth().getValue();
486     }
487
488     /**
489      * Convenience method
490      */
491     public static double getConfidenceValue( final PhylogenyNode node ) {
492         if ( !node.getBranchData().isHasConfidences() ) {
493             return Confidence.CONFIDENCE_DEFAULT_VALUE;
494         }
495         return node.getBranchData().getConfidence( 0 ).getValue();
496     }
497
498     /**
499      * Convenience method
500      */
501     public static double[] getConfidenceValuesAsArray( final PhylogenyNode node ) {
502         if ( !node.getBranchData().isHasConfidences() ) {
503             return new double[ 0 ];
504         }
505         final double[] values = new double[ node.getBranchData().getConfidences().size() ];
506         int i = 0;
507         for( final Confidence c : node.getBranchData().getConfidences() ) {
508             values[ i++ ] = c.getValue();
509         }
510         return values;
511     }
512
513     final public static Event getEventAtLCA( final PhylogenyNode n1, final PhylogenyNode n2 ) {
514         return calculateLCA( n1, n2 ).getNodeData().getEvent();
515     }
516
517     /**
518      * Returns taxonomy t if all external descendants have 
519      * the same taxonomy t, null otherwise.
520      * 
521      */
522     public static Taxonomy getExternalDescendantsTaxonomy( final PhylogenyNode node ) {
523         final List<PhylogenyNode> descs = node.getAllExternalDescendants();
524         Taxonomy tax = null;
525         for( final PhylogenyNode n : descs ) {
526             if ( !n.getNodeData().isHasTaxonomy() || n.getNodeData().getTaxonomy().isEmpty() ) {
527                 return null;
528             }
529             else if ( tax == null ) {
530                 tax = n.getNodeData().getTaxonomy();
531             }
532             else if ( n.getNodeData().getTaxonomy().isEmpty() || !tax.isEqual( n.getNodeData().getTaxonomy() ) ) {
533                 return null;
534             }
535         }
536         return tax;
537     }
538
539     public static PhylogenyNode getFurthestDescendant( final PhylogenyNode node ) {
540         final List<PhylogenyNode> children = node.getAllExternalDescendants();
541         PhylogenyNode farthest = null;
542         double longest = -Double.MAX_VALUE;
543         for( final PhylogenyNode child : children ) {
544             if ( PhylogenyMethods.getDistance( child, node ) > longest ) {
545                 farthest = child;
546                 longest = PhylogenyMethods.getDistance( child, node );
547             }
548         }
549         return farthest;
550     }
551
552     // public static PhylogenyMethods getInstance() {
553     //     if ( PhylogenyMethods._instance == null ) {
554     //         PhylogenyMethods._instance = new PhylogenyMethods();
555     //    }
556     //    return PhylogenyMethods._instance;
557     //  }
558     /**
559      * Returns the largest confidence value found on phy.
560      */
561     static public double getMaximumConfidenceValue( final Phylogeny phy ) {
562         double max = -Double.MAX_VALUE;
563         for( final PhylogenyNodeIterator iter = phy.iteratorPreorder(); iter.hasNext(); ) {
564             final double s = PhylogenyMethods.getConfidenceValue( iter.next() );
565             if ( ( s != Confidence.CONFIDENCE_DEFAULT_VALUE ) && ( s > max ) ) {
566                 max = s;
567             }
568         }
569         return max;
570     }
571
572     static public int getMinimumDescendentsPerInternalNodes( final Phylogeny phy ) {
573         int min = Integer.MAX_VALUE;
574         int d = 0;
575         PhylogenyNode n;
576         for( final PhylogenyNodeIterator it = phy.iteratorPreorder(); it.hasNext(); ) {
577             n = it.next();
578             if ( n.isInternal() ) {
579                 d = n.getNumberOfDescendants();
580                 if ( d < min ) {
581                     min = d;
582                 }
583             }
584         }
585         return min;
586     }
587
588     /**
589      * Convenience method for display purposes.
590      * Not intended for algorithms.
591      */
592     public static String getSpecies( final PhylogenyNode node ) {
593         if ( !node.getNodeData().isHasTaxonomy() ) {
594             return "";
595         }
596         else if ( !ForesterUtil.isEmpty( node.getNodeData().getTaxonomy().getScientificName() ) ) {
597             return node.getNodeData().getTaxonomy().getScientificName();
598         }
599         if ( !ForesterUtil.isEmpty( node.getNodeData().getTaxonomy().getTaxonomyCode() ) ) {
600             return node.getNodeData().getTaxonomy().getTaxonomyCode();
601         }
602         else {
603             return node.getNodeData().getTaxonomy().getCommonName();
604         }
605     }
606
607     /**
608      * Convenience method for display purposes.
609      * Not intended for algorithms.
610      */
611     public static String getTaxonomyIdentifier( final PhylogenyNode node ) {
612         if ( !node.getNodeData().isHasTaxonomy() || ( node.getNodeData().getTaxonomy().getIdentifier() == null ) ) {
613             return "";
614         }
615         return node.getNodeData().getTaxonomy().getIdentifier().getValue();
616     }
617
618     public final static boolean isAllDecendentsAreDuplications( final PhylogenyNode n ) {
619         if ( n.isExternal() ) {
620             return true;
621         }
622         else {
623             if ( n.isDuplication() ) {
624                 for( final PhylogenyNode desc : n.getDescendants() ) {
625                     if ( !isAllDecendentsAreDuplications( desc ) ) {
626                         return false;
627                     }
628                 }
629                 return true;
630             }
631             else {
632                 return false;
633             }
634         }
635     }
636
637     public static boolean isHasExternalDescendant( final PhylogenyNode node ) {
638         for( int i = 0; i < node.getNumberOfDescendants(); ++i ) {
639             if ( node.getChildNode( i ).isExternal() ) {
640                 return true;
641             }
642         }
643         return false;
644     }
645
646     /*
647      * This is case insensitive.
648      * 
649      */
650     public synchronized static boolean isTaxonomyHasIdentifierOfGivenProvider( final Taxonomy tax,
651                                                                                final String[] providers ) {
652         if ( ( tax.getIdentifier() != null ) && !ForesterUtil.isEmpty( tax.getIdentifier().getProvider() ) ) {
653             final String my_tax_prov = tax.getIdentifier().getProvider();
654             for( final String provider : providers ) {
655                 if ( provider.equalsIgnoreCase( my_tax_prov ) ) {
656                     return true;
657                 }
658             }
659             return false;
660         }
661         else {
662             return false;
663         }
664     }
665
666     public static void midpointRoot( final Phylogeny phylogeny ) {
667         if ( ( phylogeny.getNumberOfExternalNodes() < 2 ) || ( calculateMaxDistanceToRoot( phylogeny ) <= 0 ) ) {
668             return;
669         }
670         int counter = 0;
671         final int total_nodes = phylogeny.getNodeCount();
672         while ( true ) {
673             if ( ++counter > total_nodes ) {
674                 throw new RuntimeException( "this should not have happened: midpoint rooting does not converge" );
675             }
676             PhylogenyNode a = null;
677             double da = 0;
678             double db = 0;
679             for( int i = 0; i < phylogeny.getRoot().getNumberOfDescendants(); ++i ) {
680                 final PhylogenyNode f = getFurthestDescendant( phylogeny.getRoot().getChildNode( i ) );
681                 final double df = getDistance( f, phylogeny.getRoot() );
682                 if ( df > 0 ) {
683                     if ( df > da ) {
684                         db = da;
685                         da = df;
686                         a = f;
687                     }
688                     else if ( df > db ) {
689                         db = df;
690                     }
691                 }
692             }
693             final double diff = da - db;
694             if ( diff < 0.000001 ) {
695                 break;
696             }
697             double x = da - ( diff / 2.0 );
698             while ( ( x > a.getDistanceToParent() ) && !a.isRoot() ) {
699                 x -= ( a.getDistanceToParent() > 0 ? a.getDistanceToParent() : 0 );
700                 a = a.getParent();
701             }
702             phylogeny.reRoot( a, x );
703         }
704         phylogeny.recalculateNumberOfExternalDescendants( true );
705     }
706
707     public static void midpointRootOLD( final Phylogeny phylogeny ) {
708         //   if ( phylogeny.getNumberOfExternalNodes() < 2 ) {
709         //       return;
710         //   }
711         //    final PhylogenyMethods methods = getInstance();
712         //final double farthest_d = methods.calculateFurthestDistance( phylogeny );
713         // final PhylogenyNode f1 = methods.getFarthestNode1();
714         // final PhylogenyNode f2 = methods.getFarthestNode2();
715         //        if ( farthest_d <= 0.0 ) {
716         //            return;
717         //        }
718         //        double x = farthest_d / 2.0;
719         //        PhylogenyNode n = f1;
720         //        if ( PhylogenyMethods.getDistance( f1, phylogeny.getRoot() ) < PhylogenyMethods.getDistance( f2, phylogeny
721         //                .getRoot() ) ) {
722         //            n = f2;
723         //        }
724         //        while ( ( x > n.getDistanceToParent() ) && !n.isRoot() ) {
725         //            x -= ( n.getDistanceToParent() > 0 ? n.getDistanceToParent() : 0 );
726         //            n = n.getParent();
727         //        }
728         //        phylogeny.reRoot( n, x );
729         //        phylogeny.recalculateNumberOfExternalDescendants( true );
730         //        final PhylogenyNode a = getFurthestDescendant( phylogeny.getRoot().getChildNode1() );
731         //        final PhylogenyNode b = getFurthestDescendant( phylogeny.getRoot().getChildNode2() );
732         //        final double da = getDistance( a, phylogeny.getRoot() );
733         //        final double db = getDistance( b, phylogeny.getRoot() );
734         //        if ( Math.abs( da - db ) > 0.000001 ) {
735         //            throw new FailedConditionCheckException( "this should not have happened: midpoint rooting failed:  da="
736         //                    + da + ",  db=" + db + ",  diff=" + Math.abs( da - db ) );
737         //        }
738     }
739
740     public static void normalizeBootstrapValues( final Phylogeny phylogeny,
741                                                  final double max_bootstrap_value,
742                                                  final double max_normalized_value ) {
743         for( final PhylogenyNodeIterator iter = phylogeny.iteratorPreorder(); iter.hasNext(); ) {
744             final PhylogenyNode node = iter.next();
745             if ( node.isInternal() ) {
746                 final double confidence = getConfidenceValue( node );
747                 if ( confidence != Confidence.CONFIDENCE_DEFAULT_VALUE ) {
748                     if ( confidence >= max_bootstrap_value ) {
749                         setBootstrapConfidence( node, max_normalized_value );
750                     }
751                     else {
752                         setBootstrapConfidence( node, ( confidence * max_normalized_value ) / max_bootstrap_value );
753                     }
754                 }
755             }
756         }
757     }
758
759     public static List<PhylogenyNode> obtainAllNodesAsList( final Phylogeny phy ) {
760         final List<PhylogenyNode> nodes = new ArrayList<PhylogenyNode>();
761         if ( phy.isEmpty() ) {
762             return nodes;
763         }
764         for( final PhylogenyNodeIterator iter = phy.iteratorPreorder(); iter.hasNext(); ) {
765             nodes.add( iter.next() );
766         }
767         return nodes;
768     }
769
770     /**
771      * Returns a map of distinct taxonomies of
772      * all external nodes of node.
773      * If at least one of the external nodes has no taxonomy,
774      * null is returned.
775      * 
776      */
777     public static SortedMap<Taxonomy, Integer> obtainDistinctTaxonomyCounts( final PhylogenyNode node ) {
778         final List<PhylogenyNode> descs = node.getAllExternalDescendants();
779         final SortedMap<Taxonomy, Integer> tax_map = new TreeMap<Taxonomy, Integer>();
780         for( final PhylogenyNode n : descs ) {
781             if ( !n.getNodeData().isHasTaxonomy() || n.getNodeData().getTaxonomy().isEmpty() ) {
782                 return null;
783             }
784             final Taxonomy t = n.getNodeData().getTaxonomy();
785             if ( tax_map.containsKey( t ) ) {
786                 tax_map.put( t, tax_map.get( t ) + 1 );
787             }
788             else {
789                 tax_map.put( t, 1 );
790             }
791         }
792         return tax_map;
793     }
794
795     /**
796      * Arranges the order of childern for each node of this Phylogeny in such a
797      * way that either the branch with more children is on top (right) or on
798      * bottom (left), dependent on the value of boolean order.
799      * 
800      * @param order
801      *            decides in which direction to order
802      * @param pri 
803      */
804     public static void orderAppearance( final PhylogenyNode n,
805                                         final boolean order,
806                                         final boolean order_ext_alphabetically,
807                                         final DESCENDANT_SORT_PRIORITY pri ) {
808         if ( n.isExternal() ) {
809             return;
810         }
811         else {
812             PhylogenyNode temp = null;
813             if ( ( n.getNumberOfDescendants() == 2 )
814                     && ( n.getChildNode1().getNumberOfExternalNodes() != n.getChildNode2().getNumberOfExternalNodes() )
815                     && ( ( n.getChildNode1().getNumberOfExternalNodes() < n.getChildNode2().getNumberOfExternalNodes() ) == order ) ) {
816                 temp = n.getChildNode1();
817                 n.setChild1( n.getChildNode2() );
818                 n.setChild2( temp );
819             }
820             else if ( order_ext_alphabetically ) {
821                 boolean all_ext = true;
822                 for( final PhylogenyNode i : n.getDescendants() ) {
823                     if ( !i.isExternal() ) {
824                         all_ext = false;
825                         break;
826                     }
827                 }
828                 if ( all_ext ) {
829                     PhylogenyMethods.sortNodeDescendents( n, pri );
830                 }
831             }
832             for( int i = 0; i < n.getNumberOfDescendants(); ++i ) {
833                 orderAppearance( n.getChildNode( i ), order, order_ext_alphabetically, pri );
834             }
835         }
836     }
837
838     public static void postorderBranchColorAveragingExternalNodeBased( final Phylogeny p ) {
839         for( final PhylogenyNodeIterator iter = p.iteratorPostorder(); iter.hasNext(); ) {
840             final PhylogenyNode node = iter.next();
841             double red = 0.0;
842             double green = 0.0;
843             double blue = 0.0;
844             int n = 0;
845             if ( node.isInternal() ) {
846                 //for( final PhylogenyNodeIterator iterator = node.iterateChildNodesForward(); iterator.hasNext(); ) {
847                 for( int i = 0; i < node.getNumberOfDescendants(); ++i ) {
848                     final PhylogenyNode child_node = node.getChildNode( i );
849                     final Color child_color = getBranchColorValue( child_node );
850                     if ( child_color != null ) {
851                         ++n;
852                         red += child_color.getRed();
853                         green += child_color.getGreen();
854                         blue += child_color.getBlue();
855                     }
856                 }
857                 setBranchColorValue( node,
858                                      new Color( ForesterUtil.roundToInt( red / n ),
859                                                 ForesterUtil.roundToInt( green / n ),
860                                                 ForesterUtil.roundToInt( blue / n ) ) );
861             }
862         }
863     }
864
865     public static final void preOrderReId( final Phylogeny phy ) {
866         if ( phy.isEmpty() ) {
867             return;
868         }
869         phy.setIdToNodeMap( null );
870         long i = PhylogenyNode.getNodeCount();
871         for( final PhylogenyNodeIterator it = phy.iteratorPreorder(); it.hasNext(); ) {
872             it.next().setId( i++ );
873         }
874         PhylogenyNode.setNodeCount( i );
875     }
876
877     public final static Phylogeny[] readPhylogenies( final PhylogenyParser parser, final File file ) throws IOException {
878         final PhylogenyFactory factory = ParserBasedPhylogenyFactory.getInstance();
879         final Phylogeny[] trees = factory.create( file, parser );
880         if ( ( trees == null ) || ( trees.length == 0 ) ) {
881             throw new PhylogenyParserException( "Unable to parse phylogeny from file: " + file );
882         }
883         return trees;
884     }
885
886     public final static Phylogeny[] readPhylogenies( final PhylogenyParser parser, final List<File> files )
887             throws IOException {
888         final List<Phylogeny> tree_list = new ArrayList<Phylogeny>();
889         for( final File file : files ) {
890             final PhylogenyFactory factory = ParserBasedPhylogenyFactory.getInstance();
891             final Phylogeny[] trees = factory.create( file, parser );
892             if ( ( trees == null ) || ( trees.length == 0 ) ) {
893                 throw new PhylogenyParserException( "Unable to parse phylogeny from file: " + file );
894             }
895             tree_list.addAll( Arrays.asList( trees ) );
896         }
897         return tree_list.toArray( new Phylogeny[ tree_list.size() ] );
898     }
899
900     public static void removeNode( final PhylogenyNode remove_me, final Phylogeny phylogeny ) {
901         if ( remove_me.isRoot() ) {
902             if ( remove_me.getNumberOfDescendants() == 1 ) {
903                 final PhylogenyNode desc = remove_me.getDescendants().get( 0 );
904                 desc.setDistanceToParent( addPhylogenyDistances( remove_me.getDistanceToParent(),
905                                                                  desc.getDistanceToParent() ) );
906                 desc.setParent( null );
907                 phylogeny.setRoot( desc );
908                 phylogeny.clearHashIdToNodeMap();
909             }
910             else {
911                 throw new IllegalArgumentException( "attempt to remove a root node with more than one descendants" );
912             }
913         }
914         else if ( remove_me.isExternal() ) {
915             phylogeny.deleteSubtree( remove_me, false );
916             phylogeny.clearHashIdToNodeMap();
917             phylogeny.externalNodesHaveChanged();
918         }
919         else {
920             final PhylogenyNode parent = remove_me.getParent();
921             final List<PhylogenyNode> descs = remove_me.getDescendants();
922             parent.removeChildNode( remove_me );
923             for( final PhylogenyNode desc : descs ) {
924                 parent.addAsChild( desc );
925                 desc.setDistanceToParent( addPhylogenyDistances( remove_me.getDistanceToParent(),
926                                                                  desc.getDistanceToParent() ) );
927             }
928             remove_me.setParent( null );
929             phylogeny.clearHashIdToNodeMap();
930             phylogeny.externalNodesHaveChanged();
931         }
932     }
933
934     public static List<PhylogenyNode> searchData( final String query,
935                                                   final Phylogeny phy,
936                                                   final boolean case_sensitive,
937                                                   final boolean partial,
938                                                   final boolean search_domains ) {
939         final List<PhylogenyNode> nodes = new ArrayList<PhylogenyNode>();
940         if ( phy.isEmpty() || ( query == null ) ) {
941             return nodes;
942         }
943         if ( ForesterUtil.isEmpty( query ) ) {
944             return nodes;
945         }
946         for( final PhylogenyNodeIterator iter = phy.iteratorPreorder(); iter.hasNext(); ) {
947             final PhylogenyNode node = iter.next();
948             boolean match = false;
949             if ( match( node.getName(), query, case_sensitive, partial ) ) {
950                 match = true;
951             }
952             else if ( node.getNodeData().isHasTaxonomy()
953                     && match( node.getNodeData().getTaxonomy().getTaxonomyCode(), query, case_sensitive, partial ) ) {
954                 match = true;
955             }
956             else if ( node.getNodeData().isHasTaxonomy()
957                     && match( node.getNodeData().getTaxonomy().getCommonName(), query, case_sensitive, partial ) ) {
958                 match = true;
959             }
960             else if ( node.getNodeData().isHasTaxonomy()
961                     && match( node.getNodeData().getTaxonomy().getScientificName(), query, case_sensitive, partial ) ) {
962                 match = true;
963             }
964             else if ( node.getNodeData().isHasTaxonomy()
965                     && ( node.getNodeData().getTaxonomy().getIdentifier() != null )
966                     && match( node.getNodeData().getTaxonomy().getIdentifier().getValue(),
967                               query,
968                               case_sensitive,
969                               partial ) ) {
970                 match = true;
971             }
972             else if ( node.getNodeData().isHasTaxonomy() && !node.getNodeData().getTaxonomy().getSynonyms().isEmpty() ) {
973                 final List<String> syns = node.getNodeData().getTaxonomy().getSynonyms();
974                 I: for( final String syn : syns ) {
975                     if ( match( syn, query, case_sensitive, partial ) ) {
976                         match = true;
977                         break I;
978                     }
979                 }
980             }
981             if ( !match && node.getNodeData().isHasSequence()
982                     && match( node.getNodeData().getSequence().getName(), query, case_sensitive, partial ) ) {
983                 match = true;
984             }
985             if ( !match && node.getNodeData().isHasSequence()
986                     && match( node.getNodeData().getSequence().getSymbol(), query, case_sensitive, partial ) ) {
987                 match = true;
988             }
989             if ( !match
990                     && node.getNodeData().isHasSequence()
991                     && ( node.getNodeData().getSequence().getAccession() != null )
992                     && match( node.getNodeData().getSequence().getAccession().getValue(),
993                               query,
994                               case_sensitive,
995                               partial ) ) {
996                 match = true;
997             }
998             if ( search_domains && !match && node.getNodeData().isHasSequence()
999                     && ( node.getNodeData().getSequence().getDomainArchitecture() != null ) ) {
1000                 final DomainArchitecture da = node.getNodeData().getSequence().getDomainArchitecture();
1001                 I: for( int i = 0; i < da.getNumberOfDomains(); ++i ) {
1002                     if ( match( da.getDomain( i ).getName(), query, case_sensitive, partial ) ) {
1003                         match = true;
1004                         break I;
1005                     }
1006                 }
1007             }
1008             if ( !match && ( node.getNodeData().getBinaryCharacters() != null ) ) {
1009                 Iterator<String> it = node.getNodeData().getBinaryCharacters().getPresentCharacters().iterator();
1010                 I: while ( it.hasNext() ) {
1011                     if ( match( it.next(), query, case_sensitive, partial ) ) {
1012                         match = true;
1013                         break I;
1014                     }
1015                 }
1016                 it = node.getNodeData().getBinaryCharacters().getGainedCharacters().iterator();
1017                 I: while ( it.hasNext() ) {
1018                     if ( match( it.next(), query, case_sensitive, partial ) ) {
1019                         match = true;
1020                         break I;
1021                     }
1022                 }
1023             }
1024             if ( match ) {
1025                 nodes.add( node );
1026             }
1027         }
1028         return nodes;
1029     }
1030
1031     public static List<PhylogenyNode> searchDataLogicalAnd( final String[] queries,
1032                                                             final Phylogeny phy,
1033                                                             final boolean case_sensitive,
1034                                                             final boolean partial,
1035                                                             final boolean search_domains ) {
1036         final List<PhylogenyNode> nodes = new ArrayList<PhylogenyNode>();
1037         if ( phy.isEmpty() || ( queries == null ) || ( queries.length < 1 ) ) {
1038             return nodes;
1039         }
1040         for( final PhylogenyNodeIterator iter = phy.iteratorPreorder(); iter.hasNext(); ) {
1041             final PhylogenyNode node = iter.next();
1042             boolean all_matched = true;
1043             for( final String query : queries ) {
1044                 boolean match = false;
1045                 if ( ForesterUtil.isEmpty( query ) ) {
1046                     continue;
1047                 }
1048                 if ( match( node.getName(), query, case_sensitive, partial ) ) {
1049                     match = true;
1050                 }
1051                 else if ( node.getNodeData().isHasTaxonomy()
1052                         && match( node.getNodeData().getTaxonomy().getTaxonomyCode(), query, case_sensitive, partial ) ) {
1053                     match = true;
1054                 }
1055                 else if ( node.getNodeData().isHasTaxonomy()
1056                         && match( node.getNodeData().getTaxonomy().getCommonName(), query, case_sensitive, partial ) ) {
1057                     match = true;
1058                 }
1059                 else if ( node.getNodeData().isHasTaxonomy()
1060                         && match( node.getNodeData().getTaxonomy().getScientificName(), query, case_sensitive, partial ) ) {
1061                     match = true;
1062                 }
1063                 else if ( node.getNodeData().isHasTaxonomy()
1064                         && ( node.getNodeData().getTaxonomy().getIdentifier() != null )
1065                         && match( node.getNodeData().getTaxonomy().getIdentifier().getValue(),
1066                                   query,
1067                                   case_sensitive,
1068                                   partial ) ) {
1069                     match = true;
1070                 }
1071                 else if ( node.getNodeData().isHasTaxonomy()
1072                         && !node.getNodeData().getTaxonomy().getSynonyms().isEmpty() ) {
1073                     final List<String> syns = node.getNodeData().getTaxonomy().getSynonyms();
1074                     I: for( final String syn : syns ) {
1075                         if ( match( syn, query, case_sensitive, partial ) ) {
1076                             match = true;
1077                             break I;
1078                         }
1079                     }
1080                 }
1081                 if ( !match && node.getNodeData().isHasSequence()
1082                         && match( node.getNodeData().getSequence().getName(), query, case_sensitive, partial ) ) {
1083                     match = true;
1084                 }
1085                 if ( !match && node.getNodeData().isHasSequence()
1086                         && match( node.getNodeData().getSequence().getSymbol(), query, case_sensitive, partial ) ) {
1087                     match = true;
1088                 }
1089                 if ( !match
1090                         && node.getNodeData().isHasSequence()
1091                         && ( node.getNodeData().getSequence().getAccession() != null )
1092                         && match( node.getNodeData().getSequence().getAccession().getValue(),
1093                                   query,
1094                                   case_sensitive,
1095                                   partial ) ) {
1096                     match = true;
1097                 }
1098                 if ( search_domains && !match && node.getNodeData().isHasSequence()
1099                         && ( node.getNodeData().getSequence().getDomainArchitecture() != null ) ) {
1100                     final DomainArchitecture da = node.getNodeData().getSequence().getDomainArchitecture();
1101                     I: for( int i = 0; i < da.getNumberOfDomains(); ++i ) {
1102                         if ( match( da.getDomain( i ).getName(), query, case_sensitive, partial ) ) {
1103                             match = true;
1104                             break I;
1105                         }
1106                     }
1107                 }
1108                 if ( !match && ( node.getNodeData().getBinaryCharacters() != null ) ) {
1109                     Iterator<String> it = node.getNodeData().getBinaryCharacters().getPresentCharacters().iterator();
1110                     I: while ( it.hasNext() ) {
1111                         if ( match( it.next(), query, case_sensitive, partial ) ) {
1112                             match = true;
1113                             break I;
1114                         }
1115                     }
1116                     it = node.getNodeData().getBinaryCharacters().getGainedCharacters().iterator();
1117                     I: while ( it.hasNext() ) {
1118                         if ( match( it.next(), query, case_sensitive, partial ) ) {
1119                             match = true;
1120                             break I;
1121                         }
1122                     }
1123                 }
1124                 if ( !match ) {
1125                     all_matched = false;
1126                     break;
1127                 }
1128             }
1129             if ( all_matched ) {
1130                 nodes.add( node );
1131             }
1132         }
1133         return nodes;
1134     }
1135
1136     /**
1137      * Convenience method.
1138      * Sets value for the first confidence value (created if not present, values overwritten otherwise). 
1139      */
1140     public static void setBootstrapConfidence( final PhylogenyNode node, final double bootstrap_confidence_value ) {
1141         setConfidence( node, bootstrap_confidence_value, "bootstrap" );
1142     }
1143
1144     public static void setBranchColorValue( final PhylogenyNode node, final Color color ) {
1145         if ( node.getBranchData().getBranchColor() == null ) {
1146             node.getBranchData().setBranchColor( new BranchColor() );
1147         }
1148         node.getBranchData().getBranchColor().setValue( color );
1149     }
1150
1151     /**
1152      * Convenience method
1153      */
1154     public static void setBranchWidthValue( final PhylogenyNode node, final double branch_width_value ) {
1155         node.getBranchData().setBranchWidth( new BranchWidth( branch_width_value ) );
1156     }
1157
1158     /**
1159      * Convenience method.
1160      * Sets value for the first confidence value (created if not present, values overwritten otherwise). 
1161      */
1162     public static void setConfidence( final PhylogenyNode node, final double confidence_value ) {
1163         setConfidence( node, confidence_value, "" );
1164     }
1165
1166     /**
1167      * Convenience method.
1168      * Sets value for the first confidence value (created if not present, values overwritten otherwise). 
1169      */
1170     public static void setConfidence( final PhylogenyNode node, final double confidence_value, final String type ) {
1171         Confidence c = null;
1172         if ( node.getBranchData().getNumberOfConfidences() > 0 ) {
1173             c = node.getBranchData().getConfidence( 0 );
1174         }
1175         else {
1176             c = new Confidence();
1177             node.getBranchData().addConfidence( c );
1178         }
1179         c.setType( type );
1180         c.setValue( confidence_value );
1181     }
1182
1183     public static void setScientificName( final PhylogenyNode node, final String scientific_name ) {
1184         if ( !node.getNodeData().isHasTaxonomy() ) {
1185             node.getNodeData().setTaxonomy( new Taxonomy() );
1186         }
1187         node.getNodeData().getTaxonomy().setScientificName( scientific_name );
1188     }
1189
1190     /**
1191      * Convenience method to set the taxonomy code of a phylogeny node.
1192      * 
1193      * 
1194      * @param node
1195      * @param taxonomy_code
1196      * @throws PhyloXmlDataFormatException 
1197      */
1198     public static void setTaxonomyCode( final PhylogenyNode node, final String taxonomy_code )
1199             throws PhyloXmlDataFormatException {
1200         if ( !node.getNodeData().isHasTaxonomy() ) {
1201             node.getNodeData().setTaxonomy( new Taxonomy() );
1202         }
1203         node.getNodeData().getTaxonomy().setTaxonomyCode( taxonomy_code );
1204     }
1205
1206     final static public void sortNodeDescendents( final PhylogenyNode node, final DESCENDANT_SORT_PRIORITY pri ) {
1207         class PhylogenyNodeSortTaxonomyPriority implements Comparator<PhylogenyNode> {
1208
1209             @Override
1210             public int compare( final PhylogenyNode n1, final PhylogenyNode n2 ) {
1211                 if ( n1.getNodeData().isHasTaxonomy() && n2.getNodeData().isHasTaxonomy() ) {
1212                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getTaxonomy().getScientificName() ) )
1213                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getTaxonomy().getScientificName() ) ) ) {
1214                         return n1.getNodeData().getTaxonomy().getScientificName().toLowerCase()
1215                                 .compareTo( n2.getNodeData().getTaxonomy().getScientificName().toLowerCase() );
1216                     }
1217                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getTaxonomy().getTaxonomyCode() ) )
1218                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getTaxonomy().getTaxonomyCode() ) ) ) {
1219                         return n1.getNodeData().getTaxonomy().getTaxonomyCode()
1220                                 .compareTo( n2.getNodeData().getTaxonomy().getTaxonomyCode() );
1221                     }
1222                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getTaxonomy().getCommonName() ) )
1223                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getTaxonomy().getCommonName() ) ) ) {
1224                         return n1.getNodeData().getTaxonomy().getCommonName().toLowerCase()
1225                                 .compareTo( n2.getNodeData().getTaxonomy().getCommonName().toLowerCase() );
1226                     }
1227                 }
1228                 if ( n1.getNodeData().isHasSequence() && n2.getNodeData().isHasSequence() ) {
1229                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getSequence().getName() ) )
1230                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getSequence().getName() ) ) ) {
1231                         return n1.getNodeData().getSequence().getName().toLowerCase()
1232                                 .compareTo( n2.getNodeData().getSequence().getName().toLowerCase() );
1233                     }
1234                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getSequence().getSymbol() ) )
1235                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getSequence().getSymbol() ) ) ) {
1236                         return n1.getNodeData().getSequence().getSymbol()
1237                                 .compareTo( n2.getNodeData().getSequence().getSymbol() );
1238                     }
1239                     if ( ( n1.getNodeData().getSequence().getAccession() != null )
1240                             && ( n2.getNodeData().getSequence().getAccession() != null )
1241                             && !ForesterUtil.isEmpty( n1.getNodeData().getSequence().getAccession().getValue() )
1242                             && !ForesterUtil.isEmpty( n2.getNodeData().getSequence().getAccession().getValue() ) ) {
1243                         return n1.getNodeData().getSequence().getAccession().getValue()
1244                                 .compareTo( n2.getNodeData().getSequence().getAccession().getValue() );
1245                     }
1246                 }
1247                 if ( ( !ForesterUtil.isEmpty( n1.getName() ) ) && ( !ForesterUtil.isEmpty( n2.getName() ) ) ) {
1248                     return n1.getName().toLowerCase().compareTo( n2.getName().toLowerCase() );
1249                 }
1250                 return 0;
1251             }
1252         }
1253         class PhylogenyNodeSortSequencePriority implements Comparator<PhylogenyNode> {
1254
1255             @Override
1256             public int compare( final PhylogenyNode n1, final PhylogenyNode n2 ) {
1257                 if ( n1.getNodeData().isHasSequence() && n2.getNodeData().isHasSequence() ) {
1258                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getSequence().getName() ) )
1259                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getSequence().getName() ) ) ) {
1260                         return n1.getNodeData().getSequence().getName().toLowerCase()
1261                                 .compareTo( n2.getNodeData().getSequence().getName().toLowerCase() );
1262                     }
1263                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getSequence().getSymbol() ) )
1264                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getSequence().getSymbol() ) ) ) {
1265                         return n1.getNodeData().getSequence().getSymbol()
1266                                 .compareTo( n2.getNodeData().getSequence().getSymbol() );
1267                     }
1268                     if ( ( n1.getNodeData().getSequence().getAccession() != null )
1269                             && ( n2.getNodeData().getSequence().getAccession() != null )
1270                             && !ForesterUtil.isEmpty( n1.getNodeData().getSequence().getAccession().getValue() )
1271                             && !ForesterUtil.isEmpty( n2.getNodeData().getSequence().getAccession().getValue() ) ) {
1272                         return n1.getNodeData().getSequence().getAccession().getValue()
1273                                 .compareTo( n2.getNodeData().getSequence().getAccession().getValue() );
1274                     }
1275                 }
1276                 if ( n1.getNodeData().isHasTaxonomy() && n2.getNodeData().isHasTaxonomy() ) {
1277                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getTaxonomy().getScientificName() ) )
1278                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getTaxonomy().getScientificName() ) ) ) {
1279                         return n1.getNodeData().getTaxonomy().getScientificName().toLowerCase()
1280                                 .compareTo( n2.getNodeData().getTaxonomy().getScientificName().toLowerCase() );
1281                     }
1282                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getTaxonomy().getTaxonomyCode() ) )
1283                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getTaxonomy().getTaxonomyCode() ) ) ) {
1284                         return n1.getNodeData().getTaxonomy().getTaxonomyCode()
1285                                 .compareTo( n2.getNodeData().getTaxonomy().getTaxonomyCode() );
1286                     }
1287                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getTaxonomy().getCommonName() ) )
1288                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getTaxonomy().getCommonName() ) ) ) {
1289                         return n1.getNodeData().getTaxonomy().getCommonName().toLowerCase()
1290                                 .compareTo( n2.getNodeData().getTaxonomy().getCommonName().toLowerCase() );
1291                     }
1292                 }
1293                 if ( ( !ForesterUtil.isEmpty( n1.getName() ) ) && ( !ForesterUtil.isEmpty( n2.getName() ) ) ) {
1294                     return n1.getName().toLowerCase().compareTo( n2.getName().toLowerCase() );
1295                 }
1296                 return 0;
1297             }
1298         }
1299         class PhylogenyNodeSortNodeNamePriority implements Comparator<PhylogenyNode> {
1300
1301             @Override
1302             public int compare( final PhylogenyNode n1, final PhylogenyNode n2 ) {
1303                 if ( ( !ForesterUtil.isEmpty( n1.getName() ) ) && ( !ForesterUtil.isEmpty( n2.getName() ) ) ) {
1304                     return n1.getName().toLowerCase().compareTo( n2.getName().toLowerCase() );
1305                 }
1306                 if ( n1.getNodeData().isHasTaxonomy() && n2.getNodeData().isHasTaxonomy() ) {
1307                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getTaxonomy().getScientificName() ) )
1308                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getTaxonomy().getScientificName() ) ) ) {
1309                         return n1.getNodeData().getTaxonomy().getScientificName().toLowerCase()
1310                                 .compareTo( n2.getNodeData().getTaxonomy().getScientificName().toLowerCase() );
1311                     }
1312                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getTaxonomy().getTaxonomyCode() ) )
1313                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getTaxonomy().getTaxonomyCode() ) ) ) {
1314                         return n1.getNodeData().getTaxonomy().getTaxonomyCode()
1315                                 .compareTo( n2.getNodeData().getTaxonomy().getTaxonomyCode() );
1316                     }
1317                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getTaxonomy().getCommonName() ) )
1318                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getTaxonomy().getCommonName() ) ) ) {
1319                         return n1.getNodeData().getTaxonomy().getCommonName().toLowerCase()
1320                                 .compareTo( n2.getNodeData().getTaxonomy().getCommonName().toLowerCase() );
1321                     }
1322                 }
1323                 if ( n1.getNodeData().isHasSequence() && n2.getNodeData().isHasSequence() ) {
1324                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getSequence().getName() ) )
1325                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getSequence().getName() ) ) ) {
1326                         return n1.getNodeData().getSequence().getName().toLowerCase()
1327                                 .compareTo( n2.getNodeData().getSequence().getName().toLowerCase() );
1328                     }
1329                     if ( ( !ForesterUtil.isEmpty( n1.getNodeData().getSequence().getSymbol() ) )
1330                             && ( !ForesterUtil.isEmpty( n2.getNodeData().getSequence().getSymbol() ) ) ) {
1331                         return n1.getNodeData().getSequence().getSymbol()
1332                                 .compareTo( n2.getNodeData().getSequence().getSymbol() );
1333                     }
1334                     if ( ( n1.getNodeData().getSequence().getAccession() != null )
1335                             && ( n2.getNodeData().getSequence().getAccession() != null )
1336                             && !ForesterUtil.isEmpty( n1.getNodeData().getSequence().getAccession().getValue() )
1337                             && !ForesterUtil.isEmpty( n2.getNodeData().getSequence().getAccession().getValue() ) ) {
1338                         return n1.getNodeData().getSequence().getAccession().getValue()
1339                                 .compareTo( n2.getNodeData().getSequence().getAccession().getValue() );
1340                     }
1341                 }
1342                 return 0;
1343             }
1344         }
1345         Comparator<PhylogenyNode> c;
1346         switch ( pri ) {
1347             case SEQUENCE:
1348                 c = new PhylogenyNodeSortSequencePriority();
1349                 break;
1350             case NODE_NAME:
1351                 c = new PhylogenyNodeSortNodeNamePriority();
1352                 break;
1353             default:
1354                 c = new PhylogenyNodeSortTaxonomyPriority();
1355         }
1356         final List<PhylogenyNode> descs = node.getDescendants();
1357         Collections.sort( descs, c );
1358         int i = 0;
1359         for( final PhylogenyNode desc : descs ) {
1360             node.setChildNode( i++, desc );
1361         }
1362     }
1363
1364     /**
1365      * Removes from Phylogeny to_be_stripped all external Nodes which are
1366      * associated with a species NOT found in Phylogeny reference.
1367      * 
1368      * @param reference
1369      *            a reference Phylogeny
1370      * @param to_be_stripped
1371      *            Phylogeny to be stripped
1372      * @return nodes removed from to_be_stripped
1373      */
1374     public static List<PhylogenyNode> taxonomyBasedDeletionOfExternalNodes( final Phylogeny reference,
1375                                                                             final Phylogeny to_be_stripped ) {
1376         final Set<String> ref_ext_taxo = new HashSet<String>();
1377         for( final PhylogenyNodeIterator it = reference.iteratorExternalForward(); it.hasNext(); ) {
1378             final PhylogenyNode n = it.next();
1379             if ( !n.getNodeData().isHasTaxonomy() ) {
1380                 throw new IllegalArgumentException( "no taxonomic data in node: " + n );
1381             }
1382             if ( !ForesterUtil.isEmpty( n.getNodeData().getTaxonomy().getScientificName() ) ) {
1383                 ref_ext_taxo.add( n.getNodeData().getTaxonomy().getScientificName() );
1384             }
1385             if ( !ForesterUtil.isEmpty( n.getNodeData().getTaxonomy().getTaxonomyCode() ) ) {
1386                 ref_ext_taxo.add( n.getNodeData().getTaxonomy().getTaxonomyCode() );
1387             }
1388             if ( ( n.getNodeData().getTaxonomy().getIdentifier() != null )
1389                     && !ForesterUtil.isEmpty( n.getNodeData().getTaxonomy().getIdentifier().getValue() ) ) {
1390                 ref_ext_taxo.add( n.getNodeData().getTaxonomy().getIdentifier().getValuePlusProvider() );
1391             }
1392         }
1393         final ArrayList<PhylogenyNode> nodes_to_delete = new ArrayList<PhylogenyNode>();
1394         for( final PhylogenyNodeIterator it = to_be_stripped.iteratorExternalForward(); it.hasNext(); ) {
1395             final PhylogenyNode n = it.next();
1396             if ( !n.getNodeData().isHasTaxonomy() ) {
1397                 nodes_to_delete.add( n );
1398             }
1399             else if ( !( ref_ext_taxo.contains( n.getNodeData().getTaxonomy().getScientificName() ) )
1400                     && !( ref_ext_taxo.contains( n.getNodeData().getTaxonomy().getTaxonomyCode() ) )
1401                     && !( ( n.getNodeData().getTaxonomy().getIdentifier() != null ) && ref_ext_taxo.contains( n
1402                             .getNodeData().getTaxonomy().getIdentifier().getValuePlusProvider() ) ) ) {
1403                 nodes_to_delete.add( n );
1404             }
1405         }
1406         for( final PhylogenyNode n : nodes_to_delete ) {
1407             to_be_stripped.deleteSubtree( n, true );
1408         }
1409         to_be_stripped.clearHashIdToNodeMap();
1410         to_be_stripped.externalNodesHaveChanged();
1411         return nodes_to_delete;
1412     }
1413
1414     final static public void transferInternalNamesToBootstrapSupport( final Phylogeny phy ) {
1415         final PhylogenyNodeIterator it = phy.iteratorPostorder();
1416         while ( it.hasNext() ) {
1417             final PhylogenyNode n = it.next();
1418             if ( !n.isExternal() && !ForesterUtil.isEmpty( n.getName() ) ) {
1419                 double value = -1;
1420                 try {
1421                     value = Double.parseDouble( n.getName() );
1422                 }
1423                 catch ( final NumberFormatException e ) {
1424                     throw new IllegalArgumentException( "failed to parse number from [" + n.getName() + "]: "
1425                             + e.getLocalizedMessage() );
1426                 }
1427                 if ( value >= 0.0 ) {
1428                     n.getBranchData().addConfidence( new Confidence( value, "bootstrap" ) );
1429                     n.setName( "" );
1430                 }
1431             }
1432         }
1433     }
1434
1435     final static public void transferInternalNodeNamesToConfidence( final Phylogeny phy ) {
1436         final PhylogenyNodeIterator it = phy.iteratorPostorder();
1437         while ( it.hasNext() ) {
1438             final PhylogenyNode n = it.next();
1439             if ( !n.isExternal() && !n.getBranchData().isHasConfidences() ) {
1440                 if ( !ForesterUtil.isEmpty( n.getName() ) ) {
1441                     double d = -1.0;
1442                     try {
1443                         d = Double.parseDouble( n.getName() );
1444                     }
1445                     catch ( final Exception e ) {
1446                         d = -1.0;
1447                     }
1448                     if ( d >= 0.0 ) {
1449                         n.getBranchData().addConfidence( new Confidence( d, "" ) );
1450                         n.setName( "" );
1451                     }
1452                 }
1453             }
1454         }
1455     }
1456
1457     final static public void transferNodeNameToField( final Phylogeny phy,
1458                                                       final PhylogenyNodeField field,
1459                                                       final boolean external_only ) throws PhyloXmlDataFormatException {
1460         final PhylogenyNodeIterator it = phy.iteratorPostorder();
1461         while ( it.hasNext() ) {
1462             final PhylogenyNode n = it.next();
1463             if ( external_only && n.isInternal() ) {
1464                 continue;
1465             }
1466             final String name = n.getName().trim();
1467             if ( !ForesterUtil.isEmpty( name ) ) {
1468                 switch ( field ) {
1469                     case TAXONOMY_CODE:
1470                         n.setName( "" );
1471                         setTaxonomyCode( n, name );
1472                         break;
1473                     case TAXONOMY_SCIENTIFIC_NAME:
1474                         n.setName( "" );
1475                         if ( !n.getNodeData().isHasTaxonomy() ) {
1476                             n.getNodeData().setTaxonomy( new Taxonomy() );
1477                         }
1478                         n.getNodeData().getTaxonomy().setScientificName( name );
1479                         break;
1480                     case TAXONOMY_COMMON_NAME:
1481                         n.setName( "" );
1482                         if ( !n.getNodeData().isHasTaxonomy() ) {
1483                             n.getNodeData().setTaxonomy( new Taxonomy() );
1484                         }
1485                         n.getNodeData().getTaxonomy().setCommonName( name );
1486                         break;
1487                     case SEQUENCE_SYMBOL:
1488                         n.setName( "" );
1489                         if ( !n.getNodeData().isHasSequence() ) {
1490                             n.getNodeData().setSequence( new Sequence() );
1491                         }
1492                         n.getNodeData().getSequence().setSymbol( name );
1493                         break;
1494                     case SEQUENCE_NAME:
1495                         n.setName( "" );
1496                         if ( !n.getNodeData().isHasSequence() ) {
1497                             n.getNodeData().setSequence( new Sequence() );
1498                         }
1499                         n.getNodeData().getSequence().setName( name );
1500                         break;
1501                     case TAXONOMY_ID_UNIPROT_1: {
1502                         if ( !n.getNodeData().isHasTaxonomy() ) {
1503                             n.getNodeData().setTaxonomy( new Taxonomy() );
1504                         }
1505                         String id = name;
1506                         final int i = name.indexOf( '_' );
1507                         if ( i > 0 ) {
1508                             id = name.substring( 0, i );
1509                         }
1510                         else {
1511                             n.setName( "" );
1512                         }
1513                         n.getNodeData().getTaxonomy()
1514                                 .setIdentifier( new Identifier( id, PhyloXmlUtil.UNIPROT_TAX_PROVIDER ) );
1515                         break;
1516                     }
1517                     case TAXONOMY_ID_UNIPROT_2: {
1518                         if ( !n.getNodeData().isHasTaxonomy() ) {
1519                             n.getNodeData().setTaxonomy( new Taxonomy() );
1520                         }
1521                         String id = name;
1522                         final int i = name.indexOf( '_' );
1523                         if ( i > 0 ) {
1524                             id = name.substring( i + 1, name.length() );
1525                         }
1526                         else {
1527                             n.setName( "" );
1528                         }
1529                         n.getNodeData().getTaxonomy()
1530                                 .setIdentifier( new Identifier( id, PhyloXmlUtil.UNIPROT_TAX_PROVIDER ) );
1531                         break;
1532                     }
1533                     case TAXONOMY_ID: {
1534                         if ( !n.getNodeData().isHasTaxonomy() ) {
1535                             n.getNodeData().setTaxonomy( new Taxonomy() );
1536                         }
1537                         n.getNodeData().getTaxonomy().setIdentifier( new Identifier( name ) );
1538                         break;
1539                     }
1540                 }
1541             }
1542         }
1543     }
1544
1545     static double addPhylogenyDistances( final double a, final double b ) {
1546         if ( ( a >= 0.0 ) && ( b >= 0.0 ) ) {
1547             return a + b;
1548         }
1549         else if ( a >= 0.0 ) {
1550             return a;
1551         }
1552         else if ( b >= 0.0 ) {
1553             return b;
1554         }
1555         return PhylogenyDataUtil.BRANCH_LENGTH_DEFAULT;
1556     }
1557
1558     /**
1559      * Deep copies the phylogeny originating from this node.
1560      */
1561     static PhylogenyNode copySubTree( final PhylogenyNode source ) {
1562         if ( source == null ) {
1563             return null;
1564         }
1565         else {
1566             final PhylogenyNode newnode = source.copyNodeData();
1567             if ( !source.isExternal() ) {
1568                 for( int i = 0; i < source.getNumberOfDescendants(); ++i ) {
1569                     newnode.setChildNode( i, PhylogenyMethods.copySubTree( source.getChildNode( i ) ) );
1570                 }
1571             }
1572             return newnode;
1573         }
1574     }
1575
1576     /**
1577      * Shallow copies the phylogeny originating from this node.
1578      */
1579     static PhylogenyNode copySubTreeShallow( final PhylogenyNode source ) {
1580         if ( source == null ) {
1581             return null;
1582         }
1583         else {
1584             final PhylogenyNode newnode = source.copyNodeDataShallow();
1585             if ( !source.isExternal() ) {
1586                 for( int i = 0; i < source.getNumberOfDescendants(); ++i ) {
1587                     newnode.setChildNode( i, PhylogenyMethods.copySubTreeShallow( source.getChildNode( i ) ) );
1588                 }
1589             }
1590             return newnode;
1591         }
1592     }
1593
1594     /**
1595      * Calculates the distance between PhylogenyNodes n1 and n2.
1596      * PRECONDITION: n1 is a descendant of n2.
1597      * 
1598      * @param n1
1599      *            a descendant of n2
1600      * @param n2
1601      * @return distance between n1 and n2
1602      */
1603     private static double getDistance( PhylogenyNode n1, final PhylogenyNode n2 ) {
1604         double d = 0.0;
1605         while ( n1 != n2 ) {
1606             if ( n1.getDistanceToParent() > 0.0 ) {
1607                 d += n1.getDistanceToParent();
1608             }
1609             n1 = n1.getParent();
1610         }
1611         return d;
1612     }
1613
1614     private static boolean match( final String s,
1615                                   final String query,
1616                                   final boolean case_sensitive,
1617                                   final boolean partial ) {
1618         if ( ForesterUtil.isEmpty( s ) || ForesterUtil.isEmpty( query ) ) {
1619             return false;
1620         }
1621         String my_s = s.trim();
1622         String my_query = query.trim();
1623         if ( !case_sensitive ) {
1624             my_s = my_s.toLowerCase();
1625             my_query = my_query.toLowerCase();
1626         }
1627         if ( partial ) {
1628             return my_s.indexOf( my_query ) >= 0;
1629         }
1630         else {
1631             return my_s.equals( my_query );
1632         }
1633     }
1634
1635     public static enum DESCENDANT_SORT_PRIORITY {
1636         TAXONOMY, SEQUENCE, NODE_NAME;
1637     }
1638
1639     public static enum PhylogenyNodeField {
1640         CLADE_NAME,
1641         TAXONOMY_CODE,
1642         TAXONOMY_SCIENTIFIC_NAME,
1643         TAXONOMY_COMMON_NAME,
1644         SEQUENCE_SYMBOL,
1645         SEQUENCE_NAME,
1646         TAXONOMY_ID_UNIPROT_1,
1647         TAXONOMY_ID_UNIPROT_2,
1648         TAXONOMY_ID;
1649     }
1650 }