0026719: Visualization - cannot pick zoom persistent object
[occt.git] / src / SelectMgr / SelectMgr_RectangularFrustum.cxx
1 // Created on: 2014-05-22
2 // Created by: Varvara POSKONINA
3 // Copyright (c) 2005-2014 OPEN CASCADE SAS
4 //
5 // This file is part of Open CASCADE Technology software library.
6 //
7 // This library is free software; you can redistribute it and/or modify it under
8 // the terms of the GNU Lesser General Public License version 2.1 as published
9 // by the Free Software Foundation, with special exception defined in the file
10 // OCCT_LGPL_EXCEPTION.txt. Consult the file LICENSE_LGPL_21.txt included in OCCT
11 // distribution for complete text of the license and disclaimer of any warranty.
12 //
13 // Alternatively, this file may be used under the terms of Open CASCADE
14 // commercial license or contractual agreement.
15
16 #include <NCollection_Vector.hxx>
17 #include <Poly_Array1OfTriangle.hxx>
18
19 #include <SelectMgr_RectangularFrustum.hxx>
20
21 // =======================================================================
22 // function : segmentSegmentDistance
23 // purpose  :
24 // =======================================================================
25 void SelectMgr_RectangularFrustum::segmentSegmentDistance (const gp_Pnt& theSegPnt1,
26                                                            const gp_Pnt& theSegPnt2,
27                                                            Standard_Real& theDepth)
28 {
29   gp_XYZ anU = theSegPnt2.XYZ() - theSegPnt1.XYZ();
30   gp_XYZ aV = myViewRayDir.XYZ();
31   gp_XYZ aW = theSegPnt1.XYZ() - myNearPickedPnt.XYZ();
32
33   Standard_Real anA = anU.Dot (anU);
34   Standard_Real aB = anU.Dot (aV);
35   Standard_Real aC = aV.Dot (aV);
36   Standard_Real aD = anU.Dot (aW);
37   Standard_Real anE = aV.Dot (aW);
38   Standard_Real aCoef = anA * aC - aB * aB;
39   Standard_Real aSn = aCoef;
40   Standard_Real aTc, aTn, aTd = aCoef;
41
42   if (aCoef < Precision::Confusion())
43   {
44     aTn = anE;
45     aTd = aC;
46   }
47   else
48   {
49     aSn = (aB * anE - aC * aD);
50     aTn = (anA * anE - aB * aD);
51     if (aSn < 0.0)
52     {
53       aTn = anE;
54       aTd = aC;
55     }
56     else if (aSn > aCoef)
57     {
58       aTn = anE + aB;
59       aTd = aC;
60     }
61   }
62
63   if (aTn < 0.0)
64   {
65     aTn = 0.0;
66   }
67   else if (aTn > aTd)
68   {
69     aTn = aTd;
70   }
71   aTc = (Abs (aTn) < Precision::Confusion() ? 0.0 : aTn / aTd);
72
73   gp_Pnt aClosestPnt = myNearPickedPnt.XYZ() + myViewRayDir.XYZ() * aTc;
74   theDepth = myNearPickedPnt.Distance (aClosestPnt) * myScale;
75 }
76
77 // =======================================================================
78 // function : segmentPlaneIntersection
79 // purpose  :
80 // =======================================================================
81 void SelectMgr_RectangularFrustum::segmentPlaneIntersection (const gp_Vec& thePlane,
82                                                              const gp_Pnt& thePntOnPlane,
83                                                              Standard_Real& theDepth)
84 {
85   gp_XYZ anU = myViewRayDir.XYZ();
86   gp_XYZ aW = myNearPickedPnt.XYZ() - thePntOnPlane.XYZ();
87   Standard_Real aD = thePlane.Dot (anU);
88   Standard_Real aN = -thePlane.Dot (aW);
89
90   if (Abs (aD) < Precision::Confusion())
91   {
92     if (Abs (aN) < Precision::Angular())
93     {
94       theDepth = DBL_MAX;
95       return;
96     }
97     else
98     {
99       theDepth = DBL_MAX;
100       return;
101     }
102   }
103
104   Standard_Real aParam = aN / aD;
105   if (aParam < 0.0 || aParam > 1.0)
106   {
107     theDepth = DBL_MAX;
108     return;
109   }
110
111   gp_Pnt aClosestPnt = myNearPickedPnt.XYZ() + anU * aParam;
112   theDepth = myNearPickedPnt.Distance (aClosestPnt) * myScale;
113 }
114
115 namespace
116 {
117   // =======================================================================
118   // function : computeFrustum
119   // purpose  : Computes base frustum data: its vertices and edge directions
120   // =======================================================================
121   void computeFrustum (const gp_Pnt2d theMinPnt, const gp_Pnt2d& theMaxPnt,
122                        const Handle(SelectMgr_FrustumBuilder)& theBuilder,
123                        gp_Pnt* theVertices, gp_Vec* theEdges)
124   {
125     // LeftTopNear
126     theVertices[0] = theBuilder->ProjectPntOnViewPlane (theMinPnt.X(),
127                                                         theMaxPnt.Y(),
128                                                         0.0);
129     // LeftTopFar
130     theVertices[1] = theBuilder->ProjectPntOnViewPlane (theMinPnt.X(),
131                                                         theMaxPnt.Y(),
132                                                         1.0);
133     // LeftBottomNear
134     theVertices[2] = theBuilder->ProjectPntOnViewPlane (theMinPnt.X(),
135                                                         theMinPnt.Y(),
136                                                         0.0);
137     // LeftBottomFar
138     theVertices[3] = theBuilder->ProjectPntOnViewPlane (theMinPnt.X(),
139                                                         theMinPnt.Y(),
140                                                         1.0);
141     // RightTopNear
142     theVertices[4] = theBuilder->ProjectPntOnViewPlane (theMaxPnt.X(),
143                                                         theMaxPnt.Y(),
144                                                         0.0);
145     // RightTopFar
146     theVertices[5] = theBuilder->ProjectPntOnViewPlane (theMaxPnt.X(),
147                                                         theMaxPnt.Y(),
148                                                         1.0);
149     // RightBottomNear
150     theVertices[6] = theBuilder->ProjectPntOnViewPlane (theMaxPnt.X(),
151                                                         theMinPnt.Y(),
152                                                         0.0);
153     // RightBottomFar
154     theVertices[7] = theBuilder->ProjectPntOnViewPlane (theMaxPnt.X(),
155                                                         theMinPnt.Y(),
156                                                         1.0);
157
158     // Horizontal
159     theEdges[0] = theVertices[4].XYZ() - theVertices[0].XYZ();
160     // Vertical
161     theEdges[1] = theVertices[2].XYZ() - theVertices[0].XYZ();
162     // LeftLower
163     theEdges[2] = theVertices[2].XYZ() - theVertices[3].XYZ();
164     // RightLower
165     theEdges[3] = theVertices[6].XYZ() - theVertices[7].XYZ();
166     // LeftUpper
167     theEdges[4] = theVertices[0].XYZ() - theVertices[1].XYZ();
168     // RightUpper
169     theEdges[5] = theVertices[4].XYZ() - theVertices[5].XYZ();
170   }
171
172   // =======================================================================
173   // function : computeNormals
174   // purpose  : Computes normals to frustum faces
175   // =======================================================================
176   void computeNormals (const gp_Vec* theEdges, gp_Vec* theNormals)
177   {
178     // Top
179     theNormals[0] = theEdges[0].Crossed (theEdges[4]);
180     // Bottom
181     theNormals[1] = theEdges[2].Crossed (theEdges[3]);
182     // Left
183     theNormals[2] = theEdges[4].Crossed (theEdges[1]);
184     // Right
185     theNormals[3] = theEdges[5].Crossed (theEdges[3]);
186     // Near
187     theNormals[4] = theEdges[0].Crossed (theEdges[1]);
188     // Far
189     theNormals[5] = -theNormals[4];
190   }
191 }
192
193 // =======================================================================
194 // function : cacheVertexProjections
195 // purpose  : Caches projection of frustum's vertices onto its plane directions
196 //            and {i, j, k}
197 // =======================================================================
198 void SelectMgr_RectangularFrustum::cacheVertexProjections (SelectMgr_RectangularFrustum* theFrustum)
199 {
200   if (theFrustum->myIsOrthographic)
201   {
202     // project vertices onto frustum normals
203     // Since orthographic view volume's faces are always a pairwise translation of
204     // one another, only 2 vertices that belong to opposite faces can be projected
205     // to simplify calculations.
206     Standard_Integer aVertIdxs[6] = { LeftTopNear, LeftBottomNear,       // opposite planes in height direction
207                                       LeftBottomNear, RightBottomNear,   // opposite planes in width direcion
208                                       LeftBottomFar, RightBottomNear };  // opposite planes in depth direction
209     for (Standard_Integer aPlaneIdx = 0; aPlaneIdx < 5; aPlaneIdx += 2)
210     {
211       Standard_Real aProj1 = theFrustum->myPlanes[aPlaneIdx].XYZ().Dot (theFrustum->myVertices[aVertIdxs[aPlaneIdx]].XYZ());
212       Standard_Real aProj2 = theFrustum->myPlanes[aPlaneIdx].XYZ().Dot (theFrustum->myVertices[aVertIdxs[aPlaneIdx + 1]].XYZ());
213       theFrustum->myMinVertsProjections[aPlaneIdx] = Min (aProj1, aProj2);
214       theFrustum->myMaxVertsProjections[aPlaneIdx] = Max (aProj1, aProj2);
215     }
216   }
217   else
218   {
219     // project all vertices onto frustum normals
220     for (Standard_Integer aPlaneIdx = 0; aPlaneIdx < 6; ++aPlaneIdx)
221     {
222       Standard_Real aMax = -DBL_MAX;
223       Standard_Real aMin = DBL_MAX;
224       const gp_XYZ& aPlane = theFrustum->myPlanes[aPlaneIdx].XYZ();
225       for (Standard_Integer aVertIdx = 0; aVertIdx < 8; ++aVertIdx)
226       {
227         Standard_Real aProjection = aPlane.Dot (theFrustum->myVertices[aVertIdx].XYZ());
228         aMin = Min (aMin, aProjection);
229         aMax = Max (aMax, aProjection);
230       }
231       theFrustum->myMinVertsProjections[aPlaneIdx] = aMin;
232       theFrustum->myMaxVertsProjections[aPlaneIdx] = aMax;
233     }
234   }
235
236   // project vertices onto {i, j, k}
237   for (Standard_Integer aDim = 0; aDim < 3; ++aDim)
238   {
239     Standard_Real aMax = -DBL_MAX;
240     Standard_Real aMin = DBL_MAX;
241     for (Standard_Integer aVertIdx = 0; aVertIdx < 8; ++aVertIdx)
242     {
243       const gp_XYZ& aVert = theFrustum->myVertices[aVertIdx].XYZ();
244       aMax = Max (aVert.GetData()[aDim], aMax);
245       aMin = Min (aVert.GetData()[aDim], aMin);
246     }
247     theFrustum->myMaxOrthoVertsProjections[aDim] = aMax;
248     theFrustum->myMinOrthoVertsProjections[aDim] = aMin;
249   }
250 }
251
252 // =======================================================================
253 // function : Build
254 // purpose  : Build volume according to the point and given pixel
255 //            tolerance
256 // =======================================================================
257 void SelectMgr_RectangularFrustum::Build (const gp_Pnt2d &thePoint)
258 {
259   myNearPickedPnt = myBuilder->ProjectPntOnViewPlane (thePoint.X(), thePoint.Y(), 0.0);
260   myFarPickedPnt = myBuilder->ProjectPntOnViewPlane (thePoint.X(), thePoint.Y(), 1.0);
261   myViewRayDir = myFarPickedPnt.XYZ() - myNearPickedPnt.XYZ();
262   myMousePos = thePoint;
263
264   gp_Pnt2d aMinPnt (thePoint.X() - myPixelTolerance * 0.5,
265                     thePoint.Y() - myPixelTolerance * 0.5);
266   gp_Pnt2d aMaxPnt (thePoint.X() + myPixelTolerance * 0.5,
267                     thePoint.Y() + myPixelTolerance * 0.5);
268
269   // calculate base frustum characteristics: vertices and edge directions
270   computeFrustum (aMinPnt, aMaxPnt, myBuilder, myVertices, myEdgeDirs);
271
272   // compute frustum normals
273   computeNormals (myEdgeDirs, myPlanes);
274
275   // compute vertices projections onto frustum normals and
276   // {i, j, k} vectors and store them to corresponding class fields
277   cacheVertexProjections (this);
278
279   myScale = 1.0;
280 }
281
282 // =======================================================================
283 // function : Build
284 // purpose  : Build volume according to the selected rectangle
285 // =======================================================================
286 void SelectMgr_RectangularFrustum::Build (const gp_Pnt2d& theMinPnt,
287                                           const gp_Pnt2d& theMaxPnt)
288 {
289   myNearPickedPnt = myBuilder->ProjectPntOnViewPlane ((theMinPnt.X() + theMaxPnt.X()) * 0.5,
290                                                       (theMinPnt.Y() + theMaxPnt.Y()) * 0.5,
291                                                       0.0);
292   myFarPickedPnt = myBuilder->ProjectPntOnViewPlane ((theMinPnt.X() + theMaxPnt.X()) * 0.5,
293                                                      (theMinPnt.Y() + theMaxPnt.Y()) * 0.5,
294                                                      1.0);
295   myViewRayDir = myFarPickedPnt.XYZ() - myNearPickedPnt.XYZ();
296
297   // calculate base frustum characteristics: vertices and edge directions
298   computeFrustum (theMinPnt, theMaxPnt, myBuilder, myVertices, myEdgeDirs);
299
300   // compute frustum normals
301   computeNormals (myEdgeDirs, myPlanes);
302
303   // compute vertices projections onto frustum normals and
304   // {i, j, k} vectors and store them to corresponding class fields
305   cacheVertexProjections (this);
306
307   myScale = 1.0;
308 }
309
310 // =======================================================================
311 // function : ScaleAndTransform
312 // purpose  : IMPORTANT: Scaling makes sense only for frustum built on a single point!
313 //            Note that this method does not perform any checks on type of the frustum.
314 //            Returns a copy of the frustum resized according to the scale factor given
315 //            and transforms it using the matrix given.
316 //            There are no default parameters, but in case if:
317 //                - transformation only is needed: @theScaleFactor must be initialized
318 //                  as any negative value;
319 //                - scale only is needed: @theTrsf must be set to gp_Identity.
320 // =======================================================================
321 NCollection_Handle<SelectMgr_BaseFrustum> SelectMgr_RectangularFrustum::ScaleAndTransform (const Standard_Integer theScaleFactor,
322                                                                                            const gp_Trsf& theTrsf)
323 {
324   Standard_ASSERT_RAISE (theScaleFactor > 0,
325     "Error! Pixel tolerance for selection should be greater than zero");
326
327   SelectMgr_RectangularFrustum* aRes = new SelectMgr_RectangularFrustum();
328   const Standard_Boolean isToScale = theScaleFactor != 1;
329   const Standard_Boolean isToTrsf  = theTrsf.Form() != gp_Identity;
330
331   if (!isToScale && !isToTrsf)
332     return aRes;
333
334   aRes->myIsOrthographic = myIsOrthographic;
335   SelectMgr_RectangularFrustum* aRef = this;
336
337   if (isToScale)
338   {
339     aRes->myNearPickedPnt = myNearPickedPnt;
340     aRes->myFarPickedPnt  = myFarPickedPnt;
341     aRes->myViewRayDir    = myViewRayDir;
342
343     const gp_Pnt2d aMinPnt (myMousePos.X() - theScaleFactor * 0.5,
344                             myMousePos.Y() - theScaleFactor * 0.5);
345     const gp_Pnt2d aMaxPnt (myMousePos.X() + theScaleFactor * 0.5,
346                             myMousePos.Y() + theScaleFactor * 0.5);
347
348     // recompute base frustum characteristics from scratch
349     computeFrustum (aMinPnt, aMaxPnt, myBuilder, aRes->myVertices, aRes->myEdgeDirs);
350
351     aRef = aRes;
352   }
353
354   if (isToTrsf)
355   {
356     aRes->myNearPickedPnt = aRef->myNearPickedPnt.Transformed (theTrsf);
357     aRes->myFarPickedPnt  = aRef->myFarPickedPnt.Transformed (theTrsf);
358     aRes->myViewRayDir    = aRes->myFarPickedPnt.XYZ() - aRes->myNearPickedPnt.XYZ();
359
360       // LeftTopNear
361     aRes->myVertices[0] = aRef->myVertices[0].Transformed (theTrsf);
362     // LeftTopFar
363     aRes->myVertices[1] = aRef->myVertices[1].Transformed (theTrsf);
364     // LeftBottomNear
365     aRes->myVertices[2] = aRef->myVertices[2].Transformed (theTrsf);
366     // LeftBottomFar
367     aRes->myVertices[3] = aRef->myVertices[3].Transformed (theTrsf);
368     // RightTopNear
369     aRes->myVertices[4] = aRef->myVertices[4].Transformed (theTrsf);
370     // RightTopFar
371     aRes->myVertices[5] = aRef->myVertices[5].Transformed (theTrsf);
372     // RightBottomNear
373     aRes->myVertices[6] = aRef->myVertices[6].Transformed (theTrsf);
374     // RightBottomFar
375     aRes->myVertices[7] = aRef->myVertices[7].Transformed (theTrsf);
376
377     // Horizontal
378     aRes->myEdgeDirs[0] = aRes->myVertices[4].XYZ() - aRes->myVertices[0].XYZ();
379     // Vertical
380     aRes->myEdgeDirs[1] = aRes->myVertices[2].XYZ() - aRes->myVertices[0].XYZ();
381     // LeftLower
382     aRes->myEdgeDirs[2] = aRes->myVertices[2].XYZ() - aRes->myVertices[3].XYZ();
383     // RightLower
384     aRes->myEdgeDirs[3] = aRes->myVertices[6].XYZ() - aRes->myVertices[7].XYZ();
385     // LeftUpper
386     aRes->myEdgeDirs[4] = aRes->myVertices[0].XYZ() - aRes->myVertices[1].XYZ();
387     // RightUpper
388     aRes->myEdgeDirs[5] = aRes->myVertices[4].XYZ() - aRes->myVertices[5].XYZ();
389
390     aRes->myScale = 1.0 / theTrsf.ScaleFactor();
391   }
392
393   // compute frustum normals
394   computeNormals (aRes->myEdgeDirs, aRes->myPlanes);
395
396   cacheVertexProjections (aRes);
397
398   return NCollection_Handle<SelectMgr_BaseFrustum> (aRes);
399 }
400
401 // =======================================================================
402 // function : Overlaps
403 // purpose  : Returns true if selecting volume is overlapped by
404 //            axis-aligned bounding box with minimum corner at point
405 //            theMinPnt and maximum at point theMaxPnt
406 // =======================================================================
407 Standard_Boolean SelectMgr_RectangularFrustum::Overlaps (const SelectMgr_Vec3& theBoxMin,
408                                                          const SelectMgr_Vec3& theBoxMax,
409                                                          Standard_Boolean*     theInside)
410 {
411   return hasOverlap (theBoxMin, theBoxMax, theInside);
412 }
413
414 // =======================================================================
415 // function : Overlaps
416 // purpose  : SAT intersection test between defined volume and
417 //            given axis-aligned box
418 // =======================================================================
419 Standard_Boolean SelectMgr_RectangularFrustum::Overlaps (const SelectMgr_Vec3& theBoxMin,
420                                                          const SelectMgr_Vec3& theBoxMax,
421                                                          Standard_Real& theDepth)
422 {
423   if (!hasOverlap (theBoxMin, theBoxMax))
424     return Standard_False;
425
426   gp_Pnt aNearestPnt (RealLast(), RealLast(), RealLast());
427   aNearestPnt.SetX (Max (Min (myNearPickedPnt.X(), theBoxMax.x()), theBoxMin.x()));
428   aNearestPnt.SetY (Max (Min (myNearPickedPnt.Y(), theBoxMax.y()), theBoxMin.y()));
429   aNearestPnt.SetZ (Max (Min (myNearPickedPnt.Z(), theBoxMax.z()), theBoxMin.z()));
430
431   theDepth = aNearestPnt.Distance (myNearPickedPnt);
432
433   return Standard_True;
434 }
435
436 // =======================================================================
437 // function : Overlaps
438 // purpose  : Intersection test between defined volume and given point
439 // =======================================================================
440 Standard_Boolean SelectMgr_RectangularFrustum::Overlaps (const gp_Pnt& thePnt,
441                                                          Standard_Real& theDepth)
442 {
443   if (!hasOverlap (thePnt))
444     return Standard_False;
445
446   gp_XYZ aV = thePnt.XYZ() - myNearPickedPnt.XYZ();
447   gp_Pnt aDetectedPnt =
448     myNearPickedPnt.XYZ() + myViewRayDir.XYZ() * (aV.Dot (myViewRayDir.XYZ()) / myViewRayDir.Dot (myViewRayDir));
449
450   theDepth = aDetectedPnt.Distance (myNearPickedPnt) * myScale;
451
452   return Standard_True;
453 }
454
455 // =======================================================================
456 // function : Overlaps
457 // purpose  : Intersection test between defined volume and given point
458 // =======================================================================
459 Standard_Boolean SelectMgr_RectangularFrustum::Overlaps (const gp_Pnt& thePnt)
460 {
461   return hasOverlap (thePnt);
462 }
463
464 // =======================================================================
465 // function : Overlaps
466 // purpose  : Checks if line segment overlaps selecting frustum
467 // =======================================================================
468 Standard_Boolean SelectMgr_RectangularFrustum::Overlaps (const gp_Pnt& thePnt1,
469                                                          const gp_Pnt& thePnt2,
470                                                          Standard_Real& theDepth)
471 {
472   theDepth = -DBL_MAX;
473   if (!hasOverlap (thePnt1, thePnt2))
474     return Standard_False;
475
476   segmentSegmentDistance (thePnt1, thePnt2, theDepth);
477   return Standard_True;
478 }
479
480 // =======================================================================
481 // function : Overlaps
482 // purpose  : SAT intersection test between defined volume and given
483 //            ordered set of points, representing line segments. The test
484 //            may be considered of interior part or boundary line defined
485 //            by segments depending on given sensitivity type
486 // =======================================================================
487 Standard_Boolean SelectMgr_RectangularFrustum::Overlaps (const Handle(TColgp_HArray1OfPnt)& theArrayOfPnts,
488                                                          Select3D_TypeOfSensitivity theSensType,
489                                                          Standard_Real& theDepth)
490 {
491   if (theSensType == Select3D_TOS_BOUNDARY)
492   {
493     Standard_Integer aMatchingSegmentsNb = -1;
494     theDepth = DBL_MAX;
495     Standard_Integer aLower = theArrayOfPnts->Lower();
496     Standard_Integer anUpper = theArrayOfPnts->Upper();
497
498     for (Standard_Integer aPntIter = aLower; aPntIter <= anUpper; ++aPntIter)
499     {
500       const gp_Pnt& aStartPnt = theArrayOfPnts->Value (aPntIter);
501       const gp_Pnt& aEndPnt = aPntIter == anUpper ? theArrayOfPnts->Value (aLower)
502         : theArrayOfPnts->Value (aPntIter + 1);
503
504       if (hasOverlap (aStartPnt, aEndPnt))
505       {
506         aMatchingSegmentsNb++;
507         Standard_Real aSegmentDepth = RealLast();
508         segmentSegmentDistance (aStartPnt, aEndPnt, aSegmentDepth);
509         theDepth = Min (theDepth, aSegmentDepth);
510       }
511     }
512
513     if (aMatchingSegmentsNb == -1)
514       return Standard_False;
515   }
516   else if (theSensType == Select3D_TOS_INTERIOR)
517   {
518     gp_Vec aPolyNorm (gp_XYZ (RealLast(), RealLast(), RealLast()));
519     if (!hasOverlap (theArrayOfPnts, aPolyNorm))
520       return Standard_False;
521
522     segmentPlaneIntersection (aPolyNorm,
523                               theArrayOfPnts->Value (theArrayOfPnts->Lower()),
524                               theDepth);
525   }
526
527   return Standard_True;
528 }
529
530 // =======================================================================
531 // function : Overlaps
532 // purpose  : SAT intersection test between defined volume and given
533 //            triangle. The test may be considered of interior part or
534 //            boundary line defined by triangle vertices depending on
535 //            given sensitivity type
536 // =======================================================================
537 Standard_Boolean SelectMgr_RectangularFrustum::Overlaps (const gp_Pnt& thePnt1,
538                                                          const gp_Pnt& thePnt2,
539                                                          const gp_Pnt& thePnt3,
540                                                          Select3D_TypeOfSensitivity theSensType,
541                                                          Standard_Real& theDepth)
542 {
543   if (theSensType == Select3D_TOS_BOUNDARY)
544   {
545     Handle(TColgp_HArray1OfPnt) aPntsArray = new TColgp_HArray1OfPnt(1, 4);
546     aPntsArray->SetValue (1, thePnt1);
547     aPntsArray->SetValue (2, thePnt2);
548     aPntsArray->SetValue (3, thePnt3);
549     aPntsArray->SetValue (4, thePnt1);
550     return Overlaps (aPntsArray, Select3D_TOS_BOUNDARY, theDepth);
551   }
552   else if (theSensType == Select3D_TOS_INTERIOR)
553   {
554     gp_Vec aTriangleNormal (gp_XYZ (RealLast(), RealLast(), RealLast()));
555     if (!hasOverlap (thePnt1, thePnt2, thePnt3, aTriangleNormal))
556       return Standard_False;
557
558     // check if intersection point belongs to triangle's interior part
559     gp_XYZ aTrEdges[3] = { thePnt2.XYZ() - thePnt1.XYZ(),
560                            thePnt3.XYZ() - thePnt2.XYZ(),
561                            thePnt1.XYZ() - thePnt3.XYZ() };
562
563     Standard_Real anAlpha = aTriangleNormal.Dot (myViewRayDir);
564     if (Abs (anAlpha) < gp::Resolution())
565     {
566       // handle degenerated triangles: in this case, there is no possible way to detect overlap correctly.
567       if (aTriangleNormal.SquareMagnitude() < gp::Resolution())
568       {
569         theDepth = std::numeric_limits<Standard_Real>::max();
570         return Standard_False;
571       }
572
573       // handle the case when triangle normal and selecting frustum direction are orthogonal: for this case, overlap
574       // is detected correctly, and distance to triangle's plane can be measured as distance to its arbitrary vertex.
575       const gp_XYZ aDiff = myNearPickedPnt.XYZ() - thePnt1.XYZ();
576       theDepth = aTriangleNormal.Dot (aDiff) * myScale;
577       return Standard_True;
578     }
579
580     gp_XYZ anEdge = (thePnt1.XYZ() - myNearPickedPnt.XYZ()) * (1.0 / anAlpha);
581
582     Standard_Real aTime = aTriangleNormal.Dot (anEdge);
583
584     gp_XYZ aVec = myViewRayDir.XYZ().Crossed (anEdge);
585
586     Standard_Real anU = aVec.Dot (aTrEdges[2]);
587     Standard_Real aV  = aVec.Dot (aTrEdges[0]);
588
589     Standard_Boolean isInterior = (aTime >= 0.0) && (anU >= 0.0) && (aV >= 0.0) && (anU + aV <= 1.0);
590
591     if (isInterior)
592     {
593       gp_Pnt aDetectedPnt = myNearPickedPnt.XYZ() + myViewRayDir.XYZ() * aTime;
594       theDepth = myNearPickedPnt.Distance (aDetectedPnt) * myScale;
595       return Standard_True;
596     }
597
598     gp_Pnt aPnts[3] = {thePnt1, thePnt2, thePnt3};
599     Standard_Real aMinDist = RealLast();
600     Standard_Integer aNearestEdgeIdx = -1;
601     gp_Pnt aPtOnPlane = myNearPickedPnt.XYZ() + myViewRayDir.XYZ() * aTime;
602     for (Standard_Integer anEdgeIdx = 0; anEdgeIdx < 3; ++anEdgeIdx)
603     {
604       gp_XYZ aW = aPtOnPlane.XYZ() - aPnts[anEdgeIdx].XYZ();
605       Standard_Real aCoef = aTrEdges[anEdgeIdx].Dot (aW) / aTrEdges[anEdgeIdx].Dot (aTrEdges[anEdgeIdx]);
606       Standard_Real aDist = aPtOnPlane.Distance (aPnts[anEdgeIdx].XYZ() + aCoef * aTrEdges[anEdgeIdx]);
607       if (aMinDist > aDist)
608       {
609         aMinDist = aDist;
610         aNearestEdgeIdx = anEdgeIdx;
611       }
612     }
613     segmentSegmentDistance (aPnts[aNearestEdgeIdx], aPnts[(aNearestEdgeIdx + 1) % 3], theDepth);
614   }
615
616   return Standard_True;
617 }
618
619 // =======================================================================
620 // function : DistToGeometryCenter
621 // purpose  : Measures distance between 3d projection of user-picked
622 //            screen point and given point theCOG
623 // =======================================================================
624 Standard_Real SelectMgr_RectangularFrustum::DistToGeometryCenter (const gp_Pnt& theCOG)
625 {
626   return theCOG.Distance (myNearPickedPnt) * myScale;
627 }
628
629 // =======================================================================
630 // function : DetectedPoint
631 // purpose  : Calculates the point on a view ray that was detected during
632 //            the run of selection algo by given depth
633 // =======================================================================
634 gp_Pnt SelectMgr_RectangularFrustum::DetectedPoint (const Standard_Real theDepth) const
635 {
636   return myNearPickedPnt.XYZ() + myViewRayDir.Normalized().XYZ() * theDepth;
637 }
638
639 // =======================================================================
640 // function : IsClipped
641 // purpose  : Checks if the point of sensitive in which selection was
642 //            detected belongs to the region defined by clipping planes
643 // =======================================================================
644 Standard_Boolean SelectMgr_RectangularFrustum::IsClipped (const Graphic3d_SequenceOfHClipPlane& thePlanes,
645                                                           const Standard_Real theDepth)
646 {
647   Graphic3d_SequenceOfHClipPlane::Iterator aPlaneIt (thePlanes);
648   Standard_Real aMaxDepth = DBL_MAX;
649   Standard_Real aMinDepth = -DBL_MAX;
650   Standard_Real aPlaneA, aPlaneB, aPlaneC, aPlaneD;
651   for ( ; aPlaneIt.More(); aPlaneIt.Next())
652   {
653     const Handle(Graphic3d_ClipPlane)& aClipPlane = aPlaneIt.Value();
654     if (!aClipPlane->IsOn())
655       continue;
656
657     gp_Pln aGeomPlane = aClipPlane->ToPlane();
658
659     aGeomPlane.Coefficients (aPlaneA, aPlaneB, aPlaneC, aPlaneD);
660
661     const gp_XYZ& aPlaneDirXYZ = aGeomPlane.Axis().Direction().XYZ();
662
663     Standard_Real aDotProduct = myViewRayDir.XYZ().Dot (aPlaneDirXYZ);
664     Standard_Real aDistance = - myNearPickedPnt.XYZ().Dot (aPlaneDirXYZ) +
665                                 aPlaneD;
666
667     // check whether the pick line is parallel to clip plane
668     if (Abs (aDotProduct) < Precision::Angular())
669     {
670       // line lies below the plane and is not clipped, skip
671       continue;
672     }
673
674     // compute distance to point of pick line intersection with the plane
675     Standard_Real aParam = aDistance / aDotProduct;
676
677     // check if ray intersects the plane, in case aIntDist < 0
678     // the plane is "behind" the ray
679     if (aParam < 0.0)
680     {
681       continue;
682     }
683
684     const gp_Pnt anIntersectionPt = myNearPickedPnt.XYZ() + myViewRayDir.XYZ() * aParam;
685     const Standard_Real aDistToPln = anIntersectionPt.Distance (myNearPickedPnt);
686
687     // change depth limits for case of opposite and directed planes
688     if (aDotProduct < 0.0)
689     {
690       aMaxDepth = Min (aDistToPln, aMaxDepth);
691     }
692     else if (aDistToPln > aMinDepth)
693     {
694       aMinDepth = Max (aDistToPln, aMinDepth);
695     }
696   }
697
698   return (theDepth <= aMinDepth || theDepth >= aMaxDepth);
699 }