mirror of
https://github.com/TwilitRealm/dusklight
synced 2026-08-19 05:02:12 -04:00
Reorganize library code into libs/ (#3119)
* Reorganize files into libs/{dolphin,JSystem,PowerPC_EABI_Support,revolution,TRK_MINNOW_DOLPHIN}
* Update configure.py and project.py for new libs structure
* Refactor `#include <dolphin/x.h>` -> `<x.h>`
* Remove `__REVOLUTION_SDK__` forwards from dolphin
* Fix dolphin/ references in revolution
* Wrap `#include <dolphin.h>` in `!__REVOLUTION_SDK__`
* Always build TRK against dolphin headers
* Resolve revolution SDK header resolution issues
This commit is contained in:
Luke Street
@@ -0,0 +1,643 @@
|
||||
#include <dolphin/dolphin.h>
|
||||
#include <dolphin/db.h>
|
||||
#include <dolphin/os.h>
|
||||
|
||||
#include "__os.h"
|
||||
|
||||
#define HID2 920
|
||||
|
||||
// prototypes
|
||||
void DMAErrorHandler(OSError error, OSContext* context, ...);
|
||||
|
||||
#ifdef __GEKKO__
|
||||
asm void DCFlashInvalidate(void) {
|
||||
nofralloc
|
||||
mfspr r3, HID0
|
||||
ori r3, r3, 0x400
|
||||
mtspr HID0, r3
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCEnable(void) {
|
||||
nofralloc
|
||||
sync
|
||||
mfspr r3, HID0
|
||||
ori r3, r3, 0x4000
|
||||
mtspr HID0, r3
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCDisable(void) {
|
||||
nofralloc
|
||||
sync
|
||||
mfspr r3, HID0
|
||||
rlwinm r3, r3, 0, 18, 16
|
||||
mtspr HID0, r3
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCFreeze(void) {
|
||||
nofralloc
|
||||
sync
|
||||
mfspr r3, HID0
|
||||
ori r3, r3, 0x1000
|
||||
mtspr HID0, r3
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCUnfreeze(void) {
|
||||
nofralloc
|
||||
mfspr r3, HID0
|
||||
rlwinm r3, r3, 0, 20, 18
|
||||
mtspr HID0, r3
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCTouchLoad(__REGISTER void* addr) {
|
||||
nofralloc
|
||||
dcbt r0, addr
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCBlockZero(__REGISTER void* addr) {
|
||||
nofralloc
|
||||
dcbz r0, addr
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCBlockStore(__REGISTER void* addr) {
|
||||
nofralloc
|
||||
dcbst r0, addr
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCBlockFlush(__REGISTER void* addr) {
|
||||
nofralloc
|
||||
dcbf r0, addr
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCBlockInvalidate(__REGISTER void* addr) {
|
||||
nofralloc
|
||||
dcbi r0, addr
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCInvalidateRange(__REGISTER void* addr, __REGISTER u32 nBytes) {
|
||||
nofralloc
|
||||
cmplwi nBytes, 0
|
||||
blelr
|
||||
clrlwi r5, addr, 27
|
||||
add nBytes, nBytes, r5
|
||||
addi nBytes, nBytes, 31
|
||||
srwi nBytes, nBytes, 5
|
||||
mtctr nBytes
|
||||
|
||||
@1
|
||||
dcbi r0, addr
|
||||
addi addr, addr, 32
|
||||
bdnz @1
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCFlushRange(__REGISTER void* addr, __REGISTER u32 nBytes) {
|
||||
nofralloc
|
||||
cmplwi nBytes, 0
|
||||
blelr
|
||||
clrlwi r5, addr, 27
|
||||
add nBytes, nBytes, r5
|
||||
addi nBytes, nBytes, 31
|
||||
srwi nBytes, nBytes, 5
|
||||
mtctr nBytes
|
||||
|
||||
@1
|
||||
dcbf r0, addr
|
||||
addi addr, addr, 32
|
||||
bdnz @1
|
||||
sc
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCStoreRange(__REGISTER void* addr, __REGISTER u32 nBytes) {
|
||||
nofralloc
|
||||
cmplwi nBytes, 0
|
||||
blelr
|
||||
clrlwi r5, addr, 27
|
||||
add nBytes, nBytes, r5
|
||||
addi nBytes, nBytes, 31
|
||||
srwi nBytes, nBytes, 5
|
||||
mtctr nBytes
|
||||
|
||||
@1
|
||||
dcbst r0, addr
|
||||
addi addr, addr, 32
|
||||
bdnz @1
|
||||
sc
|
||||
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCFlushRangeNoSync(__REGISTER void* addr, __REGISTER u32 nBytes) {
|
||||
nofralloc
|
||||
cmplwi nBytes, 0
|
||||
blelr
|
||||
clrlwi r5, addr, 27
|
||||
add nBytes, nBytes, r5
|
||||
addi nBytes, nBytes, 31
|
||||
srwi nBytes, nBytes, 5
|
||||
mtctr nBytes
|
||||
|
||||
@1
|
||||
dcbf r0, addr
|
||||
addi addr, addr, 32
|
||||
bdnz @1
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCStoreRangeNoSync(__REGISTER void* addr, __REGISTER u32 nBytes) {
|
||||
nofralloc
|
||||
cmplwi nBytes, 0
|
||||
blelr
|
||||
clrlwi r5, addr, 27
|
||||
add nBytes, nBytes, r5
|
||||
addi nBytes, nBytes, 31
|
||||
srwi nBytes, nBytes, 5
|
||||
mtctr nBytes
|
||||
|
||||
@1
|
||||
dcbst r0, addr
|
||||
addi addr, addr, 32
|
||||
bdnz @1
|
||||
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCZeroRange(__REGISTER void* addr, __REGISTER u32 nBytes) {
|
||||
nofralloc
|
||||
cmplwi nBytes, 0
|
||||
blelr
|
||||
clrlwi r5, addr, 27
|
||||
add nBytes, nBytes, r5
|
||||
addi nBytes, nBytes, 31
|
||||
srwi nBytes, nBytes, 5
|
||||
mtctr nBytes
|
||||
|
||||
@1
|
||||
dcbz r0, addr
|
||||
addi addr, addr, 32
|
||||
bdnz @1
|
||||
|
||||
blr
|
||||
}
|
||||
|
||||
asm void DCTouchRange(__REGISTER void* addr, __REGISTER u32 nBytes) {
|
||||
nofralloc
|
||||
cmplwi nBytes, 0
|
||||
blelr
|
||||
clrlwi r5, addr, 27
|
||||
add nBytes, nBytes, r5
|
||||
addi nBytes, nBytes, 31
|
||||
srwi nBytes, nBytes, 5
|
||||
mtctr nBytes
|
||||
|
||||
@1
|
||||
dcbt r0, addr
|
||||
addi addr, addr, 32
|
||||
bdnz @1
|
||||
|
||||
blr
|
||||
}
|
||||
|
||||
asm void ICInvalidateRange(__REGISTER void* addr, __REGISTER u32 nBytes) {
|
||||
nofralloc
|
||||
cmplwi nBytes, 0
|
||||
blelr
|
||||
clrlwi r5, addr, 27
|
||||
add nBytes, nBytes, r5
|
||||
addi nBytes, nBytes, 31
|
||||
srwi nBytes, nBytes, 5
|
||||
mtctr nBytes
|
||||
|
||||
@1
|
||||
icbi r0, addr
|
||||
addi addr, addr, 32
|
||||
bdnz @1
|
||||
sync
|
||||
isync
|
||||
|
||||
blr
|
||||
}
|
||||
|
||||
asm void ICFlashInvalidate(void) {
|
||||
nofralloc
|
||||
mfspr r3, HID0
|
||||
ori r3, r3, 0x800
|
||||
mtspr HID0, r3
|
||||
blr
|
||||
}
|
||||
|
||||
asm void ICEnable(void) {
|
||||
nofralloc
|
||||
isync
|
||||
mfspr r3, HID0
|
||||
ori r3, r3, 0x8000
|
||||
mtspr HID0, r3
|
||||
blr
|
||||
}
|
||||
|
||||
asm void ICDisable(void) {
|
||||
nofralloc
|
||||
isync
|
||||
mfspr r3, HID0
|
||||
rlwinm r3, r3, 0, 17, 15
|
||||
mtspr HID0, r3
|
||||
blr
|
||||
}
|
||||
|
||||
asm void ICFreeze(void) {
|
||||
nofralloc
|
||||
isync
|
||||
mfspr r3, HID0
|
||||
ori r3, r3, 0x2000
|
||||
mtspr HID0, r3
|
||||
blr
|
||||
}
|
||||
|
||||
asm void ICUnfreeze(void) {
|
||||
nofralloc
|
||||
mfspr r3, HID0
|
||||
rlwinm r3, r3, 0, 19, 17
|
||||
mtspr HID0, r3
|
||||
blr
|
||||
}
|
||||
|
||||
asm void ICBlockInvalidate(__REGISTER void* addr) {
|
||||
nofralloc
|
||||
icbi r0, addr
|
||||
blr
|
||||
}
|
||||
|
||||
asm void ICSync(void) {
|
||||
nofralloc
|
||||
isync
|
||||
blr
|
||||
}
|
||||
|
||||
#define LC_LINES 512
|
||||
#define CACHE_LINES 1024
|
||||
|
||||
static asm void __LCEnable(void) {
|
||||
nofralloc
|
||||
mfmsr r5
|
||||
ori r5, r5, 0x1000
|
||||
mtmsr r5
|
||||
|
||||
lis r3, OS_CACHED_REGION_PREFIX
|
||||
li r4, CACHE_LINES
|
||||
mtctr r4
|
||||
_touchloop:
|
||||
dcbt 0,r3
|
||||
dcbst 0,r3
|
||||
addi r3,r3,32
|
||||
bdnz _touchloop
|
||||
mfspr r4, HID2
|
||||
oris r4, r4, 0x100F
|
||||
mtspr HID2, r4
|
||||
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
lis r3, LC_BASE_PREFIX
|
||||
ori r3, r3, 0x0002
|
||||
mtspr DBAT3L, r3
|
||||
ori r3, r3, 0x01fe
|
||||
mtspr DBAT3U, r3
|
||||
isync
|
||||
lis r3, LC_BASE_PREFIX
|
||||
li r6, LC_LINES
|
||||
mtctr r6
|
||||
li r6, 0
|
||||
|
||||
_lockloop:
|
||||
dcbz_l r6, r3
|
||||
addi r3, r3, 32
|
||||
bdnz+ _lockloop
|
||||
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
nop
|
||||
|
||||
blr
|
||||
}
|
||||
|
||||
void LCEnable(void) {
|
||||
BOOL enabled;
|
||||
|
||||
enabled = OSDisableInterrupts();
|
||||
__LCEnable();
|
||||
OSRestoreInterrupts(enabled);
|
||||
}
|
||||
|
||||
asm void LCDisable(void) {
|
||||
nofralloc
|
||||
lis r3, LC_BASE_PREFIX
|
||||
li r4, LC_LINES
|
||||
mtctr r4
|
||||
@1
|
||||
dcbi r0, r3
|
||||
addi r3, r3, 32
|
||||
bdnz @1
|
||||
mfspr r4, HID2
|
||||
rlwinm r4, r4, 0, 4, 2
|
||||
mtspr HID2, r4
|
||||
blr
|
||||
}
|
||||
|
||||
asm void LCAllocOneTag(__REGISTER BOOL invalidate, __REGISTER void* tag) {
|
||||
nofralloc
|
||||
cmpwi invalidate, 0
|
||||
beq @1
|
||||
dcbi r0, tag
|
||||
@1
|
||||
dcbz_l r0, tag
|
||||
blr
|
||||
}
|
||||
|
||||
asm void LCAllocTags(__REGISTER BOOL invalidate, __REGISTER void* startTag, __REGISTER u32 numBlocks) {
|
||||
nofralloc
|
||||
mflr r6
|
||||
cmplwi numBlocks, 0
|
||||
ble @3
|
||||
mtctr numBlocks
|
||||
cmpwi invalidate, 0
|
||||
beq @2
|
||||
@1
|
||||
dcbi r0, startTag
|
||||
dcbz_l r0, startTag
|
||||
addi startTag, startTag, 32
|
||||
bdnz @1
|
||||
b @3
|
||||
@2
|
||||
dcbz_l r0, startTag
|
||||
addi startTag, startTag, 32
|
||||
bdnz @2
|
||||
@3
|
||||
mtlr r6
|
||||
blr
|
||||
}
|
||||
|
||||
asm void LCLoadBlocks(__REGISTER void* destTag, __REGISTER void* srcAddr, __REGISTER u32 numBlocks) {
|
||||
nofralloc
|
||||
rlwinm r6, numBlocks, 30, 27, 31
|
||||
rlwinm srcAddr, srcAddr, 0, 4, 31
|
||||
or r6, r6, srcAddr
|
||||
mtspr DMA_U, r6
|
||||
rlwinm r6, numBlocks, 2, 28, 29
|
||||
or r6, r6, destTag
|
||||
ori r6, r6, 0x12
|
||||
mtspr DMA_L, r6
|
||||
blr
|
||||
}
|
||||
|
||||
asm void LCStoreBlocks(__REGISTER void* destAddr, __REGISTER void* srcTag, __REGISTER u32 numBlocks) {
|
||||
nofralloc
|
||||
rlwinm r6, numBlocks, 30, 27, 31
|
||||
rlwinm destAddr, destAddr, 0, 4, 31
|
||||
or r6, r6, destAddr
|
||||
mtspr DMA_U, r6
|
||||
rlwinm r6, numBlocks, 2, 28, 29
|
||||
or r6, r6, srcTag
|
||||
ori r6, r6, 0x2
|
||||
mtspr DMA_L, r6
|
||||
blr
|
||||
}
|
||||
#endif
|
||||
|
||||
void LCAlloc(void* addr, u32 nBytes) {
|
||||
u32 numBlocks = nBytes >> 5;
|
||||
u32 hid2 = PPCMfhid2();
|
||||
|
||||
ASSERTMSGLINE(1319, !((u32)addr & 31), "LCAlloc(): addr must be 32 byte aligned");
|
||||
ASSERTMSGLINE(1321, !((u32)nBytes & 31), "LCAlloc(): nBytes must be 32 byte aligned");
|
||||
|
||||
if ((hid2 & 0x10000000) == 0) {
|
||||
LCEnable();
|
||||
}
|
||||
LCAllocTags(TRUE, addr, numBlocks);
|
||||
}
|
||||
|
||||
void LCAllocNoInvalidate(void* addr, u32 nBytes) {
|
||||
u32 numBlocks = nBytes >> 5;
|
||||
u32 hid2 = PPCMfhid2();
|
||||
|
||||
ASSERTMSGLINE(1366, !((u32)addr & 31), "LCAllocNoFlush(): addr must be 32 byte aligned");
|
||||
ASSERTMSGLINE(1368, !((u32)nBytes & 31), "LCAllocNoFlush(): nBytes must be 32 byte aligned");
|
||||
|
||||
if ((hid2 & 0x10000000) == 0) {
|
||||
LCEnable();
|
||||
}
|
||||
LCAllocTags(FALSE, addr, numBlocks);
|
||||
}
|
||||
|
||||
u32 LCLoadData(void* destAddr, void* srcAddr, u32 nBytes) {
|
||||
u32 numBlocks = (nBytes + 31) / 32;
|
||||
u32 numTransactions = (numBlocks + 128 - 1) / 128;
|
||||
|
||||
ASSERTMSGLINE(1426, !((u32)srcAddr & 31), "LCLoadData(): srcAddr not 32 byte aligned");
|
||||
ASSERTMSGLINE(1428, !((u32)destAddr & 31), "LCLoadData(): destAddr not 32 byte aligned");
|
||||
|
||||
while (numBlocks > 0) {
|
||||
if (numBlocks < 128) {
|
||||
LCLoadBlocks(destAddr, srcAddr, numBlocks);
|
||||
numBlocks = 0;
|
||||
} else {
|
||||
LCLoadBlocks(destAddr, srcAddr, 0);
|
||||
numBlocks -= 128;
|
||||
destAddr = (void*)((u32)destAddr + 4096);
|
||||
srcAddr = (void*)((u32)srcAddr + 4096);
|
||||
}
|
||||
}
|
||||
|
||||
return numTransactions;
|
||||
}
|
||||
|
||||
u32 LCStoreData(void* destAddr, void* srcAddr, u32 nBytes) {
|
||||
u32 numBlocks = (nBytes + 31) / 32;
|
||||
u32 numTransactions = (numBlocks + 128 - 1) / 128;
|
||||
|
||||
ASSERTMSGLINE(1494, !((u32)srcAddr & 31), "LCStoreData(): srcAddr not 32 byte aligned");
|
||||
ASSERTMSGLINE(1496, !((u32)destAddr & 31), "LCStoreData(): destAddr not 32 byte aligned");
|
||||
|
||||
while (numBlocks > 0) {
|
||||
if (numBlocks < 128) {
|
||||
LCStoreBlocks(destAddr, srcAddr, numBlocks);
|
||||
numBlocks = 0;
|
||||
} else {
|
||||
LCStoreBlocks(destAddr, srcAddr, 0);
|
||||
numBlocks -= 128;
|
||||
destAddr = (void*)((u32)destAddr + 4096);
|
||||
srcAddr = (void*)((u32)srcAddr + 4096);
|
||||
}
|
||||
}
|
||||
|
||||
return numTransactions;
|
||||
}
|
||||
|
||||
#ifdef __GEKKO__
|
||||
asm u32 LCQueueLength(void) {
|
||||
nofralloc
|
||||
mfspr r4, HID2
|
||||
rlwinm r3, r4, 8, 28, 31
|
||||
blr
|
||||
}
|
||||
|
||||
asm void LCQueueWait(__REGISTER u32 len) {
|
||||
nofralloc
|
||||
@1
|
||||
mfspr r4, HID2
|
||||
rlwinm r4, r4, 8, 28, 31
|
||||
cmpw r4, r3
|
||||
bgt @1
|
||||
blr
|
||||
}
|
||||
#endif
|
||||
|
||||
void LCFlushQueue() {
|
||||
union {
|
||||
u32 val;
|
||||
struct {
|
||||
u32 lcAddr : 27;
|
||||
u32 dmaLd : 1;
|
||||
u32 dmaLenL : 2;
|
||||
u32 dmaTrigger : 1;
|
||||
u32 dmaFlush : 1;
|
||||
} f;
|
||||
} dmaL;
|
||||
|
||||
dmaL.val = 0;
|
||||
dmaL.f.dmaFlush = 1;
|
||||
PPCMtdmaU(0);
|
||||
PPCMtdmaL(dmaL.val);
|
||||
PPCSync();
|
||||
}
|
||||
|
||||
static void L2Init(void) {
|
||||
u32 oldMSR;
|
||||
oldMSR = PPCMfmsr();
|
||||
__sync();
|
||||
PPCMtmsr(MSR_IR | MSR_DR);
|
||||
__sync();
|
||||
L2Disable();
|
||||
L2GlobalInvalidate();
|
||||
PPCMtmsr(oldMSR);
|
||||
}
|
||||
|
||||
void L2Enable(void) {
|
||||
PPCMtl2cr((PPCMfl2cr() | L2CR_L2E) & ~L2CR_L2I);
|
||||
}
|
||||
|
||||
void L2Disable(void) {
|
||||
__sync();
|
||||
PPCMtl2cr(PPCMfl2cr() & ~0x80000000);
|
||||
__sync();
|
||||
}
|
||||
|
||||
void L2GlobalInvalidate(void) {
|
||||
L2Disable();
|
||||
PPCMtl2cr(PPCMfl2cr() | 0x00200000);
|
||||
while (PPCMfl2cr() & 0x00000001u);
|
||||
|
||||
PPCMtl2cr(PPCMfl2cr() & ~0x00200000);
|
||||
while (PPCMfl2cr() & 0x00000001u) {
|
||||
DBPrintf(">>> L2 INVALIDATE : SHOULD NEVER HAPPEN\n");
|
||||
}
|
||||
}
|
||||
|
||||
void L2SetDataOnly(BOOL dataOnly) {
|
||||
if (dataOnly) {
|
||||
PPCMtl2cr(PPCMfl2cr() | 0x400000);
|
||||
return;
|
||||
}
|
||||
PPCMtl2cr(PPCMfl2cr() & 0xFFBFFFFF);
|
||||
}
|
||||
|
||||
void L2SetWriteThrough(BOOL writeThrough) {
|
||||
if (writeThrough) {
|
||||
PPCMtl2cr(PPCMfl2cr() | 0x80000);
|
||||
return;
|
||||
}
|
||||
PPCMtl2cr(PPCMfl2cr() & 0xFFF7FFFF);
|
||||
}
|
||||
|
||||
void DMAErrorHandler(OSError error, OSContext* context, ...) {
|
||||
u32 hid2 = PPCMfhid2();
|
||||
|
||||
OSReport("Machine check received\n");
|
||||
OSReport("HID2 = 0x%x SRR1 = 0x%x\n", hid2, context->srr1);
|
||||
if (!(hid2 & (HID2_DCHERR | HID2_DNCERR | HID2_DCMERR | HID2_DQOERR)) || !(context->srr1 & SRR1_DMA_BIT)) {
|
||||
OSReport("Machine check was not DMA/locked cache related\n");
|
||||
OSDumpContext(context);
|
||||
PPCHalt();
|
||||
}
|
||||
|
||||
OSReport("DMAErrorHandler(): An error occurred while processing DMA.\n");
|
||||
OSReport("The following errors have been detected and cleared :\n");
|
||||
|
||||
if (hid2 & HID2_DCHERR) {
|
||||
OSReport("\t- Requested a locked cache tag that was already in the cache\n");
|
||||
}
|
||||
|
||||
if (hid2 & HID2_DNCERR) {
|
||||
OSReport("\t- DMA attempted to access normal cache\n");
|
||||
}
|
||||
|
||||
if (hid2 & HID2_DCMERR) {
|
||||
OSReport("\t- DMA missed in data cache\n");
|
||||
}
|
||||
|
||||
if (hid2 & HID2_DQOERR) {
|
||||
OSReport("\t- DMA queue overflowed\n");
|
||||
}
|
||||
|
||||
// write hid2 back to clear the error bits
|
||||
PPCMthid2(hid2);
|
||||
}
|
||||
|
||||
void __OSCacheInit() {
|
||||
if (!(PPCMfhid0() & HID0_ICE)) {
|
||||
ICEnable();
|
||||
DBPrintf("L1 i-caches initialized\n");
|
||||
}
|
||||
|
||||
if (!(PPCMfhid0() & HID0_DCE)) {
|
||||
DCEnable();
|
||||
DBPrintf("L1 d-caches initialized\n");
|
||||
}
|
||||
|
||||
if (!(PPCMfl2cr() & L2CR_L2E)) {
|
||||
L2Init();
|
||||
L2Enable();
|
||||
DBPrintf("L2 cache initialized\n");
|
||||
}
|
||||
|
||||
OSSetErrorHandler(OS_ERROR_MACHINE_CHECK, DMAErrorHandler);
|
||||
DBPrintf("Locked cache machine check handler installed\n");
|
||||
}
|
||||
Reference in New Issue
Block a user