LCOV - code coverage report
Current view: top level - lib/Target/AMDGPU - GCNRegPressure.h (source / functions) Hit Total Coverage
Test: llvm-toolchain.info Lines: 29 29 100.0 %
Date: 2017-09-14 15:23:50 Functions: 5 5 100.0 %
Legend: Lines: hit not hit

          Line data    Source code
       1             : //===- GCNRegPressure.h -----------------------------------------*- C++ -*-===//
       2             : //
       3             : //                     The LLVM Compiler Infrastructure
       4             : //
       5             : // This file is distributed under the University of Illinois Open Source
       6             : // License. See LICENSE.TXT for details.
       7             : //
       8             : //===----------------------------------------------------------------------===//
       9             : 
      10             : #ifndef LLVM_LIB_TARGET_AMDGPU_GCNREGPRESSURE_H
      11             : #define LLVM_LIB_TARGET_AMDGPU_GCNREGPRESSURE_H
      12             : 
      13             : #include "AMDGPUSubtarget.h"
      14             : #include "llvm/ADT/DenseMap.h"
      15             : #include "llvm/CodeGen/LiveIntervalAnalysis.h"
      16             : #include "llvm/CodeGen/MachineBasicBlock.h"
      17             : #include "llvm/CodeGen/MachineInstr.h"
      18             : #include "llvm/CodeGen/SlotIndexes.h"
      19             : #include "llvm/MC/LaneBitmask.h"
      20             : #include "llvm/Support/Debug.h"
      21             : #include <algorithm>
      22             : #include <limits>
      23             : 
      24             : namespace llvm {
      25             : 
      26             : class MachineRegisterInfo;
      27             : class raw_ostream;
      28             : 
      29             : struct GCNRegPressure {
      30             :   enum RegKind {
      31             :     SGPR32,
      32             :     SGPR_TUPLE,
      33             :     VGPR32,
      34             :     VGPR_TUPLE,
      35             :     TOTAL_KINDS
      36             :   };
      37             : 
      38     1136978 :   GCNRegPressure() {
      39      110481 :     clear();
      40             :   }
      41             : 
      42             :   bool empty() const { return getSGPRNum() == 0 && getVGPRNum() == 0; }
      43             : 
      44     1310897 :   void clear() { std::fill(&Value[0], &Value[TOTAL_KINDS], 0); }
      45             : 
      46             :   unsigned getSGPRNum() const { return Value[SGPR32]; }
      47             :   unsigned getVGPRNum() const { return Value[VGPR32]; }
      48             : 
      49             :   unsigned getVGPRTuplesWeight() const { return Value[VGPR_TUPLE]; }
      50             :   unsigned getSGPRTuplesWeight() const { return Value[SGPR_TUPLE]; }
      51             : 
      52          19 :   unsigned getOccupancy(const SISubtarget &ST) const {
      53          38 :     return std::min(ST.getOccupancyWithNumSGPRs(getSGPRNum()),
      54          57 :                     ST.getOccupancyWithNumVGPRs(getVGPRNum()));
      55             :   }
      56             : 
      57             :   void inc(unsigned Reg,
      58             :            LaneBitmask PrevMask,
      59             :            LaneBitmask NewMask,
      60             :            const MachineRegisterInfo &MRI);
      61             : 
      62             :   bool higherOccupancy(const SISubtarget &ST, const GCNRegPressure& O) const {
      63             :     return getOccupancy(ST) > O.getOccupancy(ST);
      64             :   }
      65             : 
      66             :   bool less(const SISubtarget &ST, const GCNRegPressure& O,
      67             :     unsigned MaxOccupancy = std::numeric_limits<unsigned>::max()) const;
      68             : 
      69             :   bool operator==(const GCNRegPressure &O) const {
      70             :     return std::equal(&Value[0], &Value[TOTAL_KINDS], O.Value);
      71             :   }
      72             : 
      73             :   bool operator!=(const GCNRegPressure &O) const {
      74             :     return !(*this == O);
      75             :   }
      76             : 
      77             :   void print(raw_ostream &OS, const SISubtarget *ST = nullptr) const;
      78             :   void dump() const { print(dbgs()); }
      79             : 
      80             : private:
      81             :   unsigned Value[TOTAL_KINDS];
      82             : 
      83             :   static unsigned getRegKind(unsigned Reg, const MachineRegisterInfo &MRI);
      84             : 
      85             :   friend GCNRegPressure max(const GCNRegPressure &P1,
      86             :                             const GCNRegPressure &P2);
      87             : };
      88             : 
      89             : inline GCNRegPressure max(const GCNRegPressure &P1, const GCNRegPressure &P2) {
      90             :   GCNRegPressure Res;
      91     9097011 :   for (unsigned I = 0; I < GCNRegPressure::TOTAL_KINDS; ++I)
      92     8086232 :     Res.Value[I] = std::max(P1.Value[I], P2.Value[I]);
      93     1010779 :   return Res;
      94             : }
      95             : 
      96       62546 : class GCNRPTracker {
      97             : public:
      98             :   using LiveRegSet = DenseMap<unsigned, LaneBitmask>;
      99             : 
     100             : protected:
     101             :   const LiveIntervals &LIS;
     102             :   LiveRegSet LiveRegs;
     103             :   GCNRegPressure CurPressure, MaxPressure;
     104             :   const MachineInstr *LastTrackedMI = nullptr;
     105             :   mutable const MachineRegisterInfo *MRI = nullptr;
     106             : 
     107      125092 :   GCNRPTracker(const LiveIntervals &LIS_) : LIS(LIS_) {}
     108             : 
     109             : public:
     110             :   // live regs for the current state
     111             :   const decltype(LiveRegs) &getLiveRegs() const { return LiveRegs; }
     112             :   const MachineInstr *getLastTrackedMI() const { return LastTrackedMI; }
     113             : 
     114             :   void clearMaxPressure() { MaxPressure.clear(); }
     115             : 
     116             :   // returns MaxPressure, resetting it
     117             :   decltype(MaxPressure) moveMaxPressure() {
     118       31714 :     auto Res = MaxPressure;
     119       63428 :     MaxPressure.clear();
     120             :     return Res;
     121             :   }
     122             : 
     123             :   decltype(LiveRegs) moveLiveRegs() {
     124        1356 :     return std::move(LiveRegs);
     125             :   }
     126             : 
     127             :   static void printLiveRegs(raw_ostream &OS, const LiveRegSet& LiveRegs,
     128             :                             const MachineRegisterInfo &MRI);
     129             : };
     130             : 
     131          24 : class GCNUpwardRPTracker : public GCNRPTracker {
     132             : public:
     133          12 :   GCNUpwardRPTracker(const LiveIntervals &LIS_) : GCNRPTracker(LIS_) {}
     134             : 
     135             :   // reset tracker to the point just below MI
     136             :   // filling live regs upon this point using LIS
     137             :   void reset(const MachineInstr &MI, const LiveRegSet *LiveRegs = nullptr);
     138             : 
     139             :   // move to the state just above the MI
     140             :   void recede(const MachineInstr &MI);
     141             : 
     142             :   // checks whether the tracker's state after receding MI corresponds
     143             :   // to reported by LIS
     144             :   bool isValid() const;
     145             : };
     146             : 
     147       62522 : class GCNDownwardRPTracker : public GCNRPTracker {
     148             :   // Last position of reset or advanceBeforeNext
     149             :   MachineBasicBlock::const_iterator NextMI;
     150             : 
     151             :   MachineBasicBlock::const_iterator MBBEnd;
     152             : 
     153             : public:
     154       93783 :   GCNDownwardRPTracker(const LiveIntervals &LIS_) : GCNRPTracker(LIS_) {}
     155             : 
     156             :   const MachineBasicBlock::const_iterator getNext() const { return NextMI; }
     157             : 
     158             :   // Reset tracker to the point before the MI
     159             :   // filling live regs upon this point using LIS.
     160             :   // Returns false if block is empty except debug values.
     161             :   bool reset(const MachineInstr &MI, const LiveRegSet *LiveRegs = nullptr);
     162             : 
     163             :   // Move to the state right before the next MI. Returns false if reached
     164             :   // end of the block.
     165             :   bool advanceBeforeNext();
     166             : 
     167             :   // Move to the state at the MI, advanceBeforeNext has to be called first.
     168             :   void advanceToNext();
     169             : 
     170             :   // Move to the state at the next MI. Returns false if reached end of block.
     171             :   bool advance();
     172             : 
     173             :   // Advance instructions until before End.
     174             :   bool advance(MachineBasicBlock::const_iterator End);
     175             : 
     176             :   // Reset to Begin and advance to End.
     177             :   bool advance(MachineBasicBlock::const_iterator Begin,
     178             :                MachineBasicBlock::const_iterator End,
     179             :                const LiveRegSet *LiveRegsCopy = nullptr);
     180             : };
     181             : 
     182             : LaneBitmask getLiveLaneMask(unsigned Reg,
     183             :                             SlotIndex SI,
     184             :                             const LiveIntervals &LIS,
     185             :                             const MachineRegisterInfo &MRI);
     186             : 
     187             : GCNRPTracker::LiveRegSet getLiveRegs(SlotIndex SI,
     188             :                                      const LiveIntervals &LIS,
     189             :                                      const MachineRegisterInfo &MRI);
     190             : 
     191          17 : inline GCNRPTracker::LiveRegSet getLiveRegsAfter(const MachineInstr &MI,
     192             :                                                  const LiveIntervals &LIS) {
     193          34 :   return getLiveRegs(LIS.getInstructionIndex(MI).getDeadSlot(), LIS,
     194          34 :                      MI.getParent()->getParent()->getRegInfo());
     195             : }
     196             : 
     197       14874 : inline GCNRPTracker::LiveRegSet getLiveRegsBefore(const MachineInstr &MI,
     198             :                                                   const LiveIntervals &LIS) {
     199       29748 :   return getLiveRegs(LIS.getInstructionIndex(MI).getBaseIndex(), LIS,
     200       29748 :                      MI.getParent()->getParent()->getRegInfo());
     201             : }
     202             : 
     203             : template <typename Range>
     204       31956 : GCNRegPressure getRegPressure(const MachineRegisterInfo &MRI,
     205             :                               Range &&LiveRegs) {
     206       31956 :   GCNRegPressure Res;
     207      133943 :   for (const auto &RM : LiveRegs)
     208       38075 :     Res.inc(RM.first, LaneBitmask::getNone(), RM.second, MRI);
     209       31956 :   return Res;
     210             : }
     211             : 
     212             : void printLivesAt(SlotIndex SI,
     213             :                   const LiveIntervals &LIS,
     214             :                   const MachineRegisterInfo &MRI);
     215             : 
     216             : } // end namespace llvm
     217             : 
     218             : #endif // LLVM_LIB_TARGET_AMDGPU_GCNREGPRESSURE_H

Generated by: LCOV version 1.13